Índice – Tech-Science – Otro profesor habló sobre la organización de la inteligencia artificial

Según Stuart Russell, profesor de informática en Berkeley y asesor de los gobiernos de EE. UU. y el Reino Unido, los gobiernos del mundo no están haciendo lo suficiente para reducir los peligros de las máquinas inteligentes. Según el experto en IA, las agencias estatales se resisten a regular la industria, a pesar de que el desarrollo tecnológico amenaza el futuro de la humanidad al no controlarla. Según Russell, ChatGPT, que se presentó en noviembre pasado, pronto podría convertirse en una fuerza incontrolable para los humanos como parte de una máquina superinteligente.

¿Cómo puedes mantener tu poder sobre una entidad más poderosa que tú, para siempre? Si no tiene una respuesta, deje de buscar. Simplemente. No hay mayor interés que este: si no tenemos control sobre nuestra propia civilización, no podemos decir si puede continuar existiendo.

Russell le dijo al Times.

Como se sabe, más de mil profesores y directores de empresas firmaron recientemente la carta abierta exigiendo que se frene el desarrollo de la inteligencia artificial. Entre los firmantes estaban Elon Musk, propietario de Tesla, SpaceX y Twitter, y Steve Wozniak, uno de los cofundadores más valiosos de Apple. (Es cierto, Wozniak dijo más tarde que si alguien quiere ver una IA asesina, mire el Tesla de Musk). Recientemente, también despidió a uno de los padres fundadores de la ciencia de la inteligencia artificial, el profesor Jeffrey Hinton, de su puesto anterior y cambió al Campamento de gritos de amenaza. .

En la Cámara de los Lores, el experto militar Lawrence Friedman habló en una audiencia la semana pasada sobre el papel que podría desempeñar la inteligencia artificial en las guerras futuras. Russell, quien anteriormente asesoró a las Naciones Unidas sobre el cumplimiento de la Convención sobre Armas Nucleares, también fue cuestionado.

El Departamento de Estado habló con un grupo de personas y concluyeron que la pérdida de control es una consecuencia muy real e importante.

dijo el profesor.

READ  Índice - Ciencia - A los monos del zoológico se les prohibió comer plátanos

“Entonces el país se acercó a la regulación como ‘nada que ver aquí, demos la bienvenida a la industria de la IA’ como si fuera la industria automotriz o algo así”. Creo que algo salió mal desde el principio, nos fascinaba mucho la idea de poder entender y crear un ser pensante, pero realmente no habíamos pensado en qué era esa inteligencia».

Si su único propósito no es beneficiar a la humanidad, esencialmente hemos creado un competidor, lo cual sería muy estúpido. No habría necesidad de sistemas que imiten el comportamiento humano… Básicamente, se les enseña a tener metas humanas y trabajar para lograr tales metas. Puede imaginar lo desastroso que sería si los sistemas con capacidades realmente serias comenzaran a luchar por estos objetivos.

Russell advirtió.

(Sereno)

Scroll al inicio