Índice – Ciencia – ¿Qué tan peligrosos son ChatGPT y su hermano húngaro PULI?

Todo el mundo ha oído hablar de ChatGPT, el gran modelo de lenguaje conocido como inteligencia artificial, del que se dice que amenaza nuestros empleos y nos quita la vida. Es fácil caer en imaginaciones apocalípticas de una «máquina» que responde a todas nuestras preguntas y charla con nosotros como un vecino: la reencarnación de Einstein, una «máquina» que sabe la respuesta a casi todo. Nuestras preguntas.

¿Sería peligroso? de nada. ¿Estás consciente? De ninguna manera. ¿Estás consciente? ¿Eres un creador? No y no. Para aclarar malentendidos recurrimos a Gábor Prószéky, diseñador de programas, matemático, lingüista y desarrollador del PULI húngaro, considerado el hermano menor de ChatGPT. Centro de Investigaciones Lingüísticas su líder.

modelo humano

Cuando se lanzó el proyecto de chat de OpenAI hace tres cuartos de año, nadie pensó que tendría tanto éxito, destruyendo nuestra percepción y conocimiento previos sobre la inteligencia artificial, las computadoras y los robots. Como dice Gábor Prószéky, «ChatGPT2 no se hizo público debido a su capacidad de crear mensajes falsos, por lo que, entre otras cosas, esta táctica de marketing ayudó a consolidar el éxito de ChatGPT, que se basaba en GPT3, capaz de mantener conversaciones reales con personas, y era construido con la participación de muchas personas. Debido a esto, las primeras reacciones de la computadora, se supo, se clasificaron en situaciones de comunicación reales. Luego se clasificaron nuevamente las reacciones del sistema racional, y así sucesivamente … «

Nuestros modelos son cada vez mejores, pero aprenden de nosotros, no pueden inventar otros nuevos, pero hacen buen uso de los patrones que han aprendido, que no son intuitivos para la percepción humana. Ellos tampoco tienen idea.

Como detalla Prószéky, el usuario también puede resumir el tema, en este caso tenemos la sensación de que entiende lo que queremos como tema, pero no hay magia en esto, solo es una cantidad de datos y texto que no se puede entender. . Un individuo.

De hecho, el software no «entiende» lo que produce, pero lo que produce puede ser más convincente y popular porque ofrece sus respuestas de una «manera humana». A menudo se dice que ChatGPT pone a los traductores en una situación difícil con otros porque ya no son necesarios, pero según Gábor Prószéky, esto es un error.

Incluso con la traducción, sólo puede ayudar a la traducción automática, no a la traducción artificial, porque no es creativo de manera humana. Funciona bien, pero alguien necesita verificar que funcione. Debido al avance de la traducción automática, la atención se ha desplazado hacia la creación de nuevos tipos de herramientas de software que pueden denominarse posedición y mejoran los textos de manera efectiva.

Cuando se trata de traducción, los profesores interesados ​​en la formación en traducción se quejan de que es difícil saber si una persona o ChatGPT está impartiendo la lección, pero esto también se puede solucionar cambiando la actitud: asignar al profesor una tarea diferente, por ejemplo, a los estudiantes. Puede buscar errores de traducción de ChatGPT o eliminar la contribución de la máquina si el listón es demasiado alto.

¿Qué pasa con los derechos?

Gábor Prószéky afirma que el plagio es un acto consciente, pero aquí no existe tal cosa. Los textos resultantes, por extraños que sean, son únicos: nunca antes nadie había descrito correctamente los textos de ChatGPT. El sistema no copia texto cuando los genera.

En la reciente noticia de que The New York Times demandó a OpenAI por plagiar los textos del periódico, comentó que ChatGPT no utiliza los textos del periódico directamente, solo puede cambiar las probabilidades de posibles secuencias de unidades lingüísticas en ellos. Texto. «Cada palabra proviene de otro lugar, cada palabra tiene su propio derecho y la probabilidad de que aparezca otra palabra tras otra no puede conservarse como esa palabra».

A veces apesta

Todo el conocimiento de ChatGPT es para el periodo anterior a septiembre de 2021, aunque siempre estará responsivo.

Cuando se le pregunta sobre un fenómeno moderno, el modelo del lenguaje no sabe la respuesta, pero es curioso ver que todavía se corta. No puede contar, pero puede sumar si se le enseña individualmente con el ejemplo.

Un modelo de lenguaje dice que contiene giros lingüísticos, lo que significa que puede reproducir posibles expresiones lingüísticas -a un nivel muy alto- pero nada más. Cuando decimos eso Alucinación ChatGPTEs porque tenemos una visión del mundo, él no la tiene, sólo una visión lingüística, por lo que no puede saber qué significan las declaraciones lingüísticas en el mundo real.

Nuestro cachorro: Tigre

Como explica Prószéky, los grandes modelos lingüísticos como GPT o PULI crean un mundo lingüístico a partir del contenido de los textos aprendidos. Si el material didáctico contiene textos en húngaro, el modelo puede aprender nuestro enlace o el orden de las palabras en húngaro a partir de él, razón por la cual ChatGPT también puede hablar húngaro, pero no contiene contenido húngaro específico ni temas culturales. Así el tigre tenía derecho a existir. «A nivel lingüístico, aprendió del archivo de texto húngaro más grande disponible, pero aún no está «bien hecho» para situaciones conversacionales, ChatGPT está ahí, pero siguiendo sus pasos de desarrollo, ahora conoce muchos mecanismos del lenguaje, que El modelo básico PULI aún no lo sabe.»

PULI es una red neuronal compleja que ahora ha tenido la oportunidad de «hacerse amiga» de Komondor, la supercomputadora más grande de Hungría. Se nos ha concedido acceso, por lo que pronto podremos desarrollar una versión nueva y más eficiente de PULI, ya que los parámetros aumentan cuando los modelos se construyen en una computadora grande, por lo que se puede construir una red con conocimientos más ricos.

Como él dice, la paleta de Komondor se está ampliando, el PULI básico aprendió del texto continuo de 30 mil millones de palabras, que ahora suman más de 41 mil millones. Y como su conocimiento del mundo se puede ampliar a través de textos en otros idiomas, también le enseñaron textos en inglés y chino, cuya suma ya supera los 200 mil millones de palabras, lo cual es «qué grande es la población estudiantil de PULI-GPTrio». ChatGPT.» Nuestro sistema aún no es lo suficientemente complejo, pero debido a las dimensiones antes mencionadas, es muy inteligente: en términos de material didáctico, PULI está a la altura de los grandes, pero en términos de conocimiento húngaro, es el mejor”.

(Imagen de portada: Gábor Prószéky. Foto: Kata Németh / Índice)