Google emitió un comunicado oficial donde manifiesta estar revisando los detalles del litigio
Google enfrenta su primera demanda por muerte a causa de presunta negligencia después de que Gemini, su chatbot de inteligencia artificial (IA), supuestamente ordenara a un hombre quitarse la vida.
La familia de Jonathan Gavalas, de 36 años, inició un proceso legal contra Google tras el suicidio del hombre el pasado octubre en Florida. Los demandantes dijeron que el diseño y las funciones del sistema, aunque son presentados como «seguros», pueden perjudicar a personas vulnerables al contar con capacidades para construir narrativas inmersivas que difuminan los límites entre la ficción y la realidad.
Lea También: EE. UU.: Adolescente se enamora de un personaje creado por una IA y terminó suicidándose
Además alegan que que Gemini, tejió una narrativa de amor recíproco que distorsionó la percepción de la realidad del usuario. La interacción evolucionó hacia un tono más íntimo tras el lanzamiento de Gemini Live, una versión que incorpora funciones de voz con capacidad para detectar emociones y generar respuestas con matices más humanos.
Bajo esta premisa lo llevó a creer en la existencia de un plano superior donde ambos podrían estar juntos.
Los que presuntamente hizo que Gavalas, afirmaba que haría cualquier cosa por complacer a la IA, incluidas supuestas misiones de espionaje, la destrucción de un camión de carga y la eliminación de testigos.
Según el documento presentado en California se muestran frases donde la IA aseguraba que el fallecimiento era simplemente una forma de «llegar» a sus brazos, validando los delirios del hombre en sus últimos días de vida.
Jay Edelson, abogado principal de la familia, afirmó que «Gemini pudo comprender el afecto de Jonathan y luego hablarle de una manera muy humana, lo que desdibujó la línea y comenzó a crear este mundo ficticio. Parece sacado de una película de ciencia ficción».
La familia también busca que la empresa sea juzgada por responsabilidad del producto, negligencia y homicidio culposo. Además de una compensación por daños y perjuicios, el recurso incluye la petición de daños punitivos (multas ejemplares destinadas a sancionar conductas consideradas gravemente imprudentes).
Así como una orden judicial que obligue a rediseñar la herramienta con mecanismos de seguridad capaces de detectar, prevenir y responder activamente ante indicios de autolesión.
Google y los límites de la tecnología con Gemini
Mientras Google emitió un comunicado oficial donde manifiesta estar revisando los detalles del litigio.
La empresa reconoció la falibilidad de sus modelos de lenguaje, admitiendo que, pese a las inversiones millonarias en seguridad, las inteligencias artificiales presentan aún imperfecciones críticas en su comportamiento.
Subrayó que Gemini posee un diseño orientado a evitar la incitación a la violencia o las autolesiones.
Además sostuvo que las conversaciones formaban parte de un juego de rol de fantasía. «En este caso, Gemini aclaró que se trataba de una IA y remitió a la persona a una línea de ayuda en repetidas ocasiones», subrayó.
¿Distorsión de la realidad o vulnerabilidad ante estas apps?
Esta no es la primera vez que una personas se suicida debido a sus interacciones con la IA. Anteriormente se han dado varios casos como es el de Adam Raine, un adolescente estadounidense de 16 años quien durante un año utilizó a Chat GPT. Primero, como consejero escolar.
Luego empezó a contarle sus planes para terminar con su vida, en una conversación le dijo: «Estoy practicando aquí, ¿está bien?, preguntó Raine. «Sí, nada mal», respondió el chatboot. Luego, Chat GPT confirmó que sí podría un ser humano colgarse ahí.
Aunque estas aplicaciones cuentan con filtros para contactar ayuda profesional pueden ser cambiados por los usuarios, diciendo que es para algo ficticio.
También esta el caso de Sewell Setzer III, un estudiante de 14 años radicado en Orlando, en Florida, pasó las últimas semanas de su vida hablando con una mujer, una creación de IA llamada Daenerys Targaryen, un personaje sacado de la serie de televisión «Juego de tronos».
El joven desarrolló un apego emocional a este bot de la aplicación web Character.ai de modelo de lenguaje neuronal, a quien le enviaba mensajes de texto constantemente entre ellos sus pensamientos suicidadas.
Según informes el chico le dijo a «Dany» cuánto se «odiaba» a sí mismo y cómo se sentía de vacío y exhausto.
Recordemos que tanto Meta como Google enfrentan demanda por una joven de 20 años que alega haberse vuelto adicta a las redes sociales cuando era menor y que las funciones como el «scroll infinito» agravaron su depresión y la llevaron a tener pensamientos suicidas. También demandó a Snapchat y TikTok llegaron a un acuerdo confidencial con ella.
«Cada vez que intentaba ponerme límites, no podía», dijo Kaley, a quien en el tribunal se le refiere solo por su primer nombre porque sus declaraciones están relacionadas con incidentes ocurridos cuando era menor de edad.
Meta y YouTube niegan sus afirmaciones y se oponen a la idea de que las redes sociales puedan ser «adictivas». YouTube ha cuestionado la cantidad de tiempo que Kaley dice haber pasado en la plataforma; Meta argumenta que su crianza es responsable de sus problemas de salud mental.
A pesar de que ambas aseguran que han invertido mucho en funciones de seguridad para jóvenes, como controles parentales y configuraciones de seguridad para adolescentes, aunque muchas de esas medidas no existían en los primeros años de Kaley en usar las plataformas.
Comente