Sam Altman pide regular más la IA, pero las acciones de OpenAI lo contradicen El fundador de la compañía que desarrolla modelos de IA estuvo en una plática con Oprah Winfrey.
El fundador de OpenAI, la compañía detrás de los modelos de inteligencia artificial (IA) como ChatGPT, participó en una charla con Oprah Winfrey en su nuevo especial de televisión, AI and the Future of Us.
Sam Altman, CEO de OpenAI, hizo un llamado al gobierno de Estados Unidos para que juegue un papel más activo en la regulación de la IA, sugiriendo que se implementen pruebas de seguridad similares a las aplicadas en la industria de la aviación y la farmacéutica.
"Una de las primeras cosas que debemos hacer —y esto ya está en marcha— es lograr que el gobierno determine cómo realizar pruebas de seguridad en estos sistemas, de la misma forma en que lo hacemos con los aviones o los nuevos medicamentos", declaró Altman.
El ejecutivo también mencionó que mantiene un diálogo constante con las autoridades estadounidenses para garantizar la seguridad de los productos que OpenAI desarrolla.
Sin embargo, las acciones recientes de OpenAI parecen contradecir estas declaraciones. En mayo, la compañía desmanteló su equipo Superalignment, creado apenas en julio de 2023 para investigar los riesgos existenciales asociados con la IA, según informó CNBC.
Relacionado: Sam Altman asegura que las empresas necesitarán la inteligencia artificial para sobrevivir
OpenAI explicó que las tareas de este equipo serían asumidas por otras áreas de investigación dentro de la empresa.
Exempleados de OpenAI han advertido sobre los "graves riesgos" que plantea la rápida evolución de la inteligencia artificial, lo que ha generado inquietud sobre las decisiones internas de la compañía.
Tras la conversación con Altman, Oprah reveló que ha comenzado a utilizar herramientas impulsadas por IA, pero expresó su preocupación por el potencial de esta tecnología para fomentar la desinformación y los deepfakes. "Mi temor es que, como ha ocurrido con otras tecnologías, la IA podría causar mucho daño antes de que nos demos cuenta de la necesidad de establecer límites claros y efectivos", comentó.
El especial de Oprah Winfrey también incluye entrevistas con otros líderes influyentes, como Bill Gates, fundador de Microsoft, y Christopher Wray, director del FBI.
Relacionado: OpenAI apunta a una valuación de más de $150,000 millones de dólares al tiempo que libera un modelo de IA aún más poderoso