Una serie de expertos escribieron en una carta abierta que la inteligencia artificial se ha vuelto muy peligrosa.

Además de Elon Musk, una gran cantidad de conocidos investigadores de IA están pidiendo a las empresas de desarrollo de IA en una carta abierta conjunta que detengan todas sus investigaciones a gran escala, porque estos sistemas «ocultan profundos peligros» para la sociedad y la humanidad.

el La carta se puede leer completa aquí Entre sus firmantes, además de Musk, el líder de Tesla/Twitter/Space-x/etc., el nombre más famoso es el cofundador de Apple Steve Wozniak y, entre otros, uno de los historiadores/escritores favoritos de Viktor Orban, Yuval Noah. Harari.

READ  Elon Musk fracasó tanto en apoderarse de Twitter que entró en el Libro Guinness de los Récords

Según el texto conjunto, AI Labs participa en una competencia «fuera de control» y desarrolla y utiliza sistemas de aprendizaje automático que incluso ellos mismos, los creadores, no pueden comprender, calcular o controlar de manera confiable su comportamiento.

Debido a las preocupaciones anteriores, los signatarios solicitan a AI Labs que suspenda de inmediato cualquier investigación relacionada con sistemas de IA más fuertes que GPT-4 durante al menos 6 meses. La brecha debe ser pública, verificable e incluir a todos los actores principales del género, como lo exige la carta. Ellos escribieron:

Si este bloqueo no puede terminar rápidamente, los gobiernos deben intervenir y declarar una moratoria”.

Según la carta, el cierre debe usarse para desarrollar e implementar una serie de protocolos de seguridad, que luego pueden ser monitoreados cuidadosamente por expertos externos independientes. Estos protocolos deben garantizar que los sistemas creados según ellos sean «seguros más allá de toda duda razonable».

el borde Según él, es poco probable que el mensaje tenga algún impacto en el clima tecnológico actual, cuando Google y Microsoft compiten para lanzar sus propios productos de inteligencia artificial, a menudo ignorando las preocupaciones sobre la seguridad y la ética.




HVG

¡Ordene el periódico semanal HVG o digitalmente y léanos en cualquier lugar, en cualquier momento!



Otro error crítico de ChatGPT, los datos de pago ahora pueden volverse públicos


hvg huTécnica

OpenAI publicó nuevos detalles sobre el error de ChatGPT la semana pasada, lo que revela que algunas personas pudieron ver no solo las direcciones de chat de otros usuarios, sino también cierta información de pago.



ChatGPT será más inteligente, pero será más peligroso con el nuevo desarrollo


hvg huTécnica

A través de las extensiones, ChatGPT podrá buscar información en tiempo real en la World Wide Web, lo que hará que el programa sea más inteligente y serio al mismo tiempo.