Expertos en inteligencia artificial y líderes de la industria piden una pausa en el desarrollo de sistemas de IA más potentes que ChatGPT de OpenAI. Más de 1.100 personas firmaron una petición para detener la investigación durante seis meses y desarrollar protocolos de seguridad compartidos.
***
- Expertos y líderes de la industria piden pausa en el desarrollo de IA
- Más de 1,100 personas firman petición para detener la investigación durante seis meses
- Se busca desarrollar protocolos de seguridad compartidos antes de continuar
Más de 1.100 personas en la industria firmaron una petición para detener el entrenamiento de sistemas de inteligencia artificial más potentes que el último modelo detrás de ChatGPT de OpenAI durante al menos seis meses. Esto permitiría desarrollar protocolos de seguridad compartidos.
En una carta abierta publicada en el sitio web del Future of Life Institute, se menciona que los laboratorios de inteligencia artificial están compitiendo para crear mentes digitales cada vez más poderosas que nadie puede entender, predecir o controlar de manera confiable. Los expertos creen que solo debemos desarrollar sistemas de IA más potentes cuando estemos seguros de que sus efectos serán positivos y los riesgos manejables.
Esta petición llega después de que se lanzaran varios proyectos de inteligencia artificial en los últimos meses que realizan tareas humanas, como escribir correos electrónicos y crear arte. OpenAI, respaldada por Microsoft Corp (NASDAQ:MSFT)., lanzó su GPT-4 este mes, una mejora importante de su chatbot impulsado por IA, capaz de contar chistes y aprobar exámenes de alta complejidad en materias como derecho.
La carta pide a los desarrolladores que trabajen con los responsables políticos para crear nuevos sistemas de gobernanza y supervisión de la inteligencia artificial. También insta a los gobiernos a intervenir en el desarrollo de sistemas de IA si los principales actores no acuerdan una pausa pública y verificable.
Los firmantes de la petición desean que la investigación y el desarrollo de IA se centren en hacer que los sistemas actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.
Artículo de DiarioBitcoin
Imagen de caja de pandora AI original por DiarioBitcoin, de uso libre, bajo dominio publico.