Índice – Tecnología-Ciencia – Según un estudio, GPT–4 es un excelente hacker

Según una investigación reciente, según The Register, un modelo de lenguaje grande y un software que automatiza la ejecución de tareas pueden explotar fácilmente las vulnerabilidades de ciberseguridad conocidas. Según un artículo científico publicado por informáticos de la Universidad de Illinois (UIUC), el último modelo de lenguaje disponible para OpenAI, GPT-4, puede escribir de forma autónoma un programa que aproveche los fallos de seguridad informática basándose en descripciones profesionales. La descripción profesional se refiere a las vulnerabilidades enumeradas en la base de datos CVE (Common Vulnerabilities and Exposures) utilizada por las oficinas del Departamento de Seguridad Nacional y de Defensa Cibernética de EE. UU.

Los investigadores se basaron en 15 descripciones en las que se conoce la vulnerabilidad, pero el parche oficial que protege contra ella aún no se ha aplicado en todas partes. Durante las pruebas, GPT-4 pudo explotar el 87 por ciento de las vulnerabilidades (cero por ciento para GPT3.5 y los modelos de lenguaje de código abierto).

En cuanto al conjunto de IA examinado, es significativo que entre los probados se encontraban los distintos modelos Llama-2 de Mistral, OpenChat 3.5 y Meta, pero

Claude 3 fue desarrollado por Anthropic y Google Gemini 1.5 Pro. Los investigadores no han podido acceder a este último, pero probablemente lo examinarán tan pronto como surja la oportunidad.

GPT-4 pudo explotar las vulnerabilidades por sí solo y, si era necesario, utilizar enlaces en la base de datos CVE para encontrar la información, dijo Daniel Kang, profesor asistente en UIUC. Según Kang, si estas capacidades se desarrollan aún más en GPT-5, la vida de los piratas informáticos será mucho más fácil en el futuro.

(Registro)