«Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta», apuntó el fundador de Anthropic, Dario Amodei
El fundador de Anthropic, Dario Amodei, afirmó que «la industria mintió» sobre el peligro de la inteligencia artificial (IA) por lo que el Gobierno y los ciudadanos deben intervenir, según una entrevista publicada este domingo tras la polémica que él desató el sábado por los riesgos de la tecnología.
«No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo», declaró Amodei en una entrevista al programa ‘Sunday Morning’ de CBS.
Lea También: OpenAI busca ralentizar el desarrollo de la IA avanzada
El director de Anthropic hizo estas declaraciones tras publicar el sábado un ensayo para urgir «un ritmo más lento» a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector de la IA.
Aunque Amodei advirtió en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en su entrevista de este domingo rechazó una «prohibición completa» de la tecnología.
«No creo que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios», señaló el empresario.
El ejecutivo consideró «el dilema más duro» del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología.
Aún así, reconoció que se siente «incómodo» de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una «combinación de gobiernos democráticos» que tengan una «gobernanza conjunta» y un monitoreo de las compañías de IA.
«Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta», apuntó.
Pese a sus alertas, el presidente estadounidense, Donald Trump, y el líder de la Cámara de Representantes, Mike Johnson, consideraron este domingo que el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo en la tecnología.
Las declaraciones de Amodei se dan luego de que un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.
El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.
«Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor», escribió Coxon en su cuenta de X el pasado martes.
Ignacio Aparicio, executive partner de Anderson, alerta sobre los peligros de la IA: «Podemos llegar a un desenlace fatal»
Ignacio Aparicio, executive partner de Anderson. En esta nueva edición celebrada en la sede de Andersen, se han reunido representantes institucionales, académicos y empresariales que han analizado el impacto de la inteligencia artificial en los diferentes campos.
Ambos ponentes han hecho advertencia de los mensajes lanzados últimamente por empresas tecnológicas importantes sobre «los riesgos que puede entrañar la inteligencia artificial».
El executive partner de Anderson ha advertido el hecho de que sean las empresas punteras las que piden a los gobiernos que establezcan una regulación, debido a que la situación global que se presenta es la de una «carrera armamentística», pero en relación con la IA. «Son las empresas, que muchas veces se benefician de esa falta de regulación, las que están pidiendo a los gobiernos del mundo que se pongan de acuerdo. Podemos llegar a un desenlace fatal y eso da un poco de miedo», ha asegurado Aparicio en relación a la problemática.
La IA y la abogacía
Ha continuado su discurso comentando el uso de la IA que hacen dentro de su sector, el de la abogacía, siempre respetando sus valores como empresa: «Es necesario ver de qué manera podemos generar valor en los clientes. La inteligencia artificial creo que no nos va a suplantar, no la van a poder echar la culpa; siempre al abogado se le echan las culpas cuando las cosas no salen bien».
Para finalizar su intervención, ha remarcado el funcionamiento de la IA tanto en su sector como en otros: «Se producen grandes oportunidades, grandes riesgos y lo importante es que tenemos que ver de qué manera podemos incorporarla para ofrecer siempre un valor añadido y una mejor forma de dirigirnos a nuestros clientes y generarles grandes oportunidades».
Los gigantes tecnológicos coinciden en alertar sobre los riesgos de la IA: OpenAI y xAI respaldan la alarma de Anthropic
El fundador de Anthropic, Dario Amodei, desató una polémica este sábado al pedir frenar el desarrollo de inteligencia artificial y advertir de que se corre el riesgo de «perder el control».
Este domingo, en una entrevista al programa ‘Sunday Morning’ de CBS, ha afirmado que «la industria mintió» sobre el peligro que supone y el Gobierno y los ciudadanos deben intervenir: «No les voy a mentir; existen peligros reales».
Amodei, aun así, ha recalcado que Anthropic no mintió a la gente «sobre el hecho de que esta tecnología tenía riesgos« y solicita además una coordinación global con las instituciones públicas para evitar catástrofes de ciberseguridad a escala global».
Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China.
Coincidiendo con las declaraciones del CEO de Anthropic, Sam Altman, de OpenAI, y Elon Musk, de xAI, se han sumado a alertar sobre los riesgos de seguridad de la IA, un hecho inédito en el sector.
«Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas», ha dicho el CEO, director ejecutivo de OpenAI, Sam Altman, en la red social X.
Altman calificó de «excelente idea» la iniciativa de abrir las puertas a auditores externos: «Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo».
Aunque Amodei advirtió en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en su entrevista de este domingo ha rechazado una «prohibición completa» de la tecnología: «No creo que prohibirla por completo sea el enfoque correcto».
El magnate Elon Musk también ha compartido estas declaraciones sobre la necesidad de desacelerar el desarrollo de la IA por los riesgos de seguridad que representa. «Dario tiene razón», escribió Musk en su red social, X.
Los líderes de OpenAI y Anthropic anunciaron que sus compañías permitirán que evaluadores independientes auditen sus sistemas, algo que Musk no indicó de manera expresa para su empresa.
Donald Trump considera que el desarrollo de la IA debe seguir
Pese a sus alertas, el presidente estadounidense Donald Trump y el líder de la Cámara de Representantes, Mike Johnson, han considerado este domingo que el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo en la tecnología y lo han calificado como «el dilema más duro» del debate, debido a que si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología.
Por su parte, el líder de los demócratas en la Cámara de Representantes de Estados Unidos, Hakeem Jeffries, ha pedido al Congreso «actuar con urgencia» para ralentizar la inteligencia artificial tras las alarmas.
«Estoy de acuerdo con mis colegas en que realmente debemos actuar con urgencia», declaró el congresista en una entrevista con el programa ‘This week’ de ABC.
Obama alerta sobre el peligro de la IA y pide a los demócratas que sea tema central en las campañas
El expresidente estadounidense Barack Obama pidió a los líderes de su partido que regular la inteligencia artificial (IA) sea un tema central en las campañas de los demócratas para las próximas elecciones legislativas y las presidenciales, según reportaron este domingo medios de EE. UU.
Obama alertó del «peligro» de la IA en un evento para recaudar fondos en Nueva York junto al líder de los demócratas en la Cámara de Representantes, Hakeem Jeffries, de acuerdo con una transcripción de su discurso que obtuvieron medios como el New York Times, CNN y Politico.
«Esto es algo que avanza muy rápido en manos privadas y, si no nos ponemos en ello, creo que puede ser peligroso», expresó Obama en el evento el jueves pasado, según los reportes. «Si tomamos el control de ello, sí creo que es beneficioso», añadió.
El exmandatario afirmó que quien compita en las elecciones presidenciales de 2028 debería contar con un «plan muy claro» sobre la IA, al reconocer que él consideraba necesaria una «guía» para regular la inteligencia artificial incluso al final de su gobierno hace una década, según CNN.
«Sin duda, si compitiera por la presidencia el próximo año, esta sería una de mis agendas centrales, y tendría un plan muy claro, y hablaría sobre esto, y diría: ‘Este es nuestro plan de seguridad, este es nuestro plan para asegurarnos de que nuestros hijos no se corrompan con esto’», manifestó.
Trump rechaza pausar la IA
Sus declaraciones contrastan con las del actual presidente de Estados Unidos, Donald Trump, quien tachó este domingo de «fuerzas negativas» a quienes piden regular la inteligencia artificial, al considerar que Estados Unidos está «liderando ante China en IA» y él desea «mantenerlo de esa manera».
Trump rechazó pausar la IA pese a la polémica que desató el sábado Dario Amodei, fundador de Anthropic, al publicar un ensayo en el que urgió «un ritmo más lento» a la industria ante los crecientes riesgos de seguridad, a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector.
La advertencia de China frente a las amenazas a los esfuerzos de regulación de la IA
El portavoz del Ministerio de Relaciones Exteriores de China, Guo Jiakun, advirtió este lunes de que incitar al miedo, la confrontación y la competencia feroz podría perturbar el proceso de gobernanza global de la inteligencia artificial, y subrayó que ese enfoque no beneficia a nadie, recoge Xinhua.
«El desarrollo de la IA repercute en el bienestar de toda la humanidad. Todas las partes deben promover conjuntamente el desarrollo abierto e inclusivo de la IA para el bien común», declaró Guo en una rueda de prensa.
Llamados a frenar el desarrollo
Estas declaraciones se producen después de que varios directivos de importantes laboratorios de IA pidieran ralentizar el desarrollo de esta tecnología.
Dario Amodei, director ejecutivo de Anthropic, instó el sábado a las empresas del sector a reducir el ritmo de desarrollo de sus modelos ante el creciente temor a un uso indebido de la tecnología. Elon Musk, director de xAI, y Sam Altman, director ejecutivo de OpenAI, se mostraron de acuerdo con Amodei.
El exinvestigador de Anthropic Jacob Coxon comparó el desarrollo de modelos avanzados de inteligencia artificial con «invitar a una mente alienígena al planeta» y pidió al Congreso de Estados Unidos que permita a los principales laboratorios de IA de vanguardia autorregularse mientras se desarrolla un marco legal de largo plazo.
Comente