La Comisión Federal de Comercio de EE. UU. envió una citación a OpenAI. Sospecha que el fabricante de ChatGPT ha incurrido en prácticas que ponen en riesgo la reputación y los datos personales de los usuarios.
***
- FTC, agencia de gobierno de EE. UU., envió una citación a OpenAI
- Solicitó a la empresa información sobre sus prácticas y políticas de protección al consumidor
- Sospecha que el desarrollador de ChatGPT puso en riesgo la reputación y los datos de clientes
Esta semana, la FTC envió una demanda civil de 20 páginas, similar a una citación, solicitando a la compañía detrás del popular chatbot de inteligencia artificial (IA), ChatGPT, que proporcione registros y responda a una serie de preguntas para determinar si ha violado las leyes de protección del consumidor al poner en riesgo la reputación y los datos personales de los usuarios.
El documento, que describe los puntos clave de la investigación, revela que la agencia busca conocer si OpenAI ha “participado en prácticas injustas o engañosas de privacidad o seguridad de datos” o en prácticas que puedan impliquen “riesgos de daño a los consumidores, incluido el daño a la reputación, en violación de Sección 5 de la Ley de la FTC”.
The Washington Post fue el primero en informar sobre la investigación el jueves. Múltiples medios cubrieron la noticia y han asegurado la autenticidad del documento. La FTC se negó a comentar.
FTC indaga sobre las prácticas de OpenAI Una de las preguntas que la FTC le ha hecho a OpenAI se refiere a los pasos que la compañía ha tomado para abordar el potencial de sus productos para “generar declaraciones sobre personas reales que son falsas, engañosas o despectivas“.
La agencia también solicitó a la compañía que enumere a los terceros que tienen acceso a sus modelos de lenguaje grande (LLM), a sus principales clientes o licenciantes, y explique cómo se retienen y usan la información de los consumidores. Asimismo, el gobierno quiere saber cómo hace OpenAI para capacitar a sus LLM y cómo evalúa el riesgo.
Entre otras cosas, el documento también hace mención a un error que reveló la compañía en marzo de 2023 que “permitía a algunos usuarios ver títulos del historial de chat de otro usuario activo”. La agencia solicitó a OpenAI que brinde información sobre el incidente.
El CEO de OpenAI, Sam Altman, abordó la investigación en una serie de tweets el jueves calificando como “decepcionante” el hecho de que la citación se filtrase públicamente, lo que a su parecer “no ayuda a generar confianza“.
Altman agregó que la última versión de la tecnología de la compañía, GPT-4, se construyó sobre años de investigación de seguridad y que los sistemas fueron diseñados para aprender sobre el mundo y no sobre individuos privados, al tiempo que aseguró que la empresa es transparente sobre las limitaciones de su tecnología.
“Es muy importante para nosotros que nuestra tecnología sea segura y pro-consumidor, y estamos seguros de que cumplimos con la ley“, dijo. “Por supuesto que trabajaremos con la FTC“.
it is very disappointing to see the FTC's request start with a leak and does not help build trust.that said, it’s super important to us that out technology is safe and pro-consumer, and we are confident we follow the law. of course we will work with the FTC.
— Sam Altman (@sama) July 13, 2023
Los rápidos avances de la IA han dado mucho de que hablar este año. El interés por la tecnología se ha disparado desde la irrupción de ChatGPT a finales de 2022, lo que ha motivado una serie de discusiones y temores en torno al potencial de la tecnología para revolucionar una serie de industrias y las diversas áreas de lo humano.
La investigación en EE. UU. se produce en medio de crecientes preocupaciones sobre la tecnología de IA y su potencial para difundir desinformación y eliminar puestos de trabajo. En Hollywood, el sindicato de actores se unió este viernes a la huelga de los escritores, en parte debido a las amenazas “existenciales” que representa la IA para el gremio.
Artículo de Hannah Estefanía Pérez / DiarioBitcoin
Imagen de Unsplash
