Según un obituario del MIT de 2008, Weisenbaum estaba molesto por este hecho, quienes se comunicaron con Elisa estaban dispuestos a abrirle su corazón, incluso cuando sabían que se trataba de un programa de computadora. Elisa muestra, al menos, lo fácil que es crear y mantener la ilusión de comprender y, por tanto, quizás de juzgar. «Se merece credibilidad», escribió Weisenbaum en 1966. «Hay un cierto peligro al acecho». Pasó el final de su carrera advirtiendo contra colocar demasiada responsabilidad en las máquinas y convirtiéndose en un crítico filosófico acérrimo de la inteligencia artificial.
Nuestra compleja relación con la inteligencia artificial y las máquinas siempre ha quedado patente en las tramas de películas de Hollywood como “Her” o “Ex-Machina”, por no hablar de las conversaciones abusivas con personas que insisten en decir “gracias” a nuestros asistentes de voz. Como Alexa o Siri.
Mientras tanto, otros advierten que la tecnología detrás de los chatbots impulsados por IA es más limitada de lo que a algunos les gustaría. “Estas tecnologías son muy buenas para hacerse pasar por personas y buscar humanos, pero no son profundas”, dijo Gary Marcus, investigador de inteligencia artificial y profesor emérito de la Universidad de Nueva York. «Es una imitación, estos sistemas, pero es una imitación muy superficial. Realmente no entienden de lo que están hablando».
Sin embargo, a medida que estos servicios se expanden a más aspectos de nuestras vidas y las empresas toman medidas para personalizar aún más estos dispositivos, nuestra relación con ellos puede volverse cada vez más compleja.
evolución de chatbots
Sanjeev b. Khodanpour recuerda su conversación con Elisa mientras terminaba sus estudios. A pesar de su importancia histórica en la industria de la tecnología, dijo, no le tomó mucho tiempo ver sus límites.
dijo Khodanpour, un experto en la aplicación de métodos informáticos teóricos a las tecnologías del lenguaje humano y profesor de la Universidad Johns Hopkins.
Pero en las décadas posteriores al hardware, ha habido un alejamiento de la idea de «hablar con las computadoras». Esto se debe a que «el problema era muy difícil», dijo Khodanpour. En cambio, dijo, el enfoque cambió a «diálogo dirigido».
Para entender la diferencia, piensa en las conversaciones que puedes tener con Alexa o Siri en este momento. Por lo general, le pide a estos asistentes digitales que lo ayuden a comprar un boleto, consultar el clima o reproducir una canción. Es un diálogo orientado a objetivos que se ha convertido en el centro de la investigación académica y de la industria, ya que los científicos informáticos han intentado derivar algo útil de la capacidad de las computadoras para leer el lenguaje humano.
Si bien han usado tecnología similar a los chatbots sociales anteriores, Khodanpour dijo: «Realmente no puedes llamarlos chatbots. Puedes llamarlos asistentes de voz o simplemente asistentes digitales que ayudan con tareas específicas».
Agregó que hubo un «silencio» en esta tecnología durante décadas hasta que Internet se generalizó. «Es posible que los grandes brotes hayan ocurrido en este milenio», dijo Khodanpour. “Con el advenimiento de las empresas que han contratado con éxito algún tipo de agente informático para realizar tareas rutinarias”.
“La gente siempre se molesta cuando se pierden sus maletas, y los clientes humanos con los que tratan siempre están estresados por toda esta negatividad, por lo que dijeron, vamos a dárselo a la computadora”, dijo Khodanpour. Puedes gritar lo que quieras en la computadora, lo único que quieres saber es «¿Tienes tu número de tarjeta para que pueda decirte dónde está tu bolso?» «
Volver a programas de chat social y temas sociales
A principios de la década de 2000, los investigadores comenzaron a repensar el desarrollo de chatbots sociales que pudieran entablar conversaciones más largas con humanos. Estos chatbots, a menudo entrenados con grandes cantidades de datos de Internet, han aprendido a simular muy bien la forma en que las personas hablan, pero también corren el riesgo de hacerse eco de los peores fenómenos de Internet.
“Cuanto más hablas con Tay, más inteligente te vuelves, por lo que la experiencia puede ser más personalizada”, dijo Microsoft en ese momento.
Esos estribillos serán repetidos por otros gigantes tecnológicos que han lanzado chatbots públicos, incluido Meta BlenderBot3, que se lanzó a principios de este mes. El chatbot Meta afirmó falsamente que Donald Trump todavía era presidente y que «ciertamente había mucha evidencia» de fraude electoral, incluidos comentarios controvertidos.
BlenderBot3 también afirmó ser más que un bot. En una conversación, afirmó que «el hecho de que estoy vivo y consciente ahora me hace humano».
A pesar de todo el progreso que se ha producido desde Elisa y la gran cantidad de datos nuevos necesarios para entrenar los programas de procesamiento de idiomas, el profesor de la NYU, Marcus, dijo: «No me queda claro si realmente se puede construir un chatbot confiable y seguro».
Por otro lado, Khodanpur se mantiene optimista sobre sus posibles casos de uso. “Tengo esta visión completa de cómo la IA puede empoderar a las personas a nivel individual”, dijo. “Imagínese si mi robot pudiera leer todos los artículos científicos en mi campo, no tendría que ir y leerlos todos, solo pensaría, haría preguntas y tendría una conversación”, dijo. «En otras palabras, tendré una psique alternativa con superpoderes integrados».
«Fanático de la comida certificado. Gurú extremo de Internet. Jugador. Adicto a las abejas. Zombie ninja. Solucionador de problemas. Amante del alcohol sin remordimientos».