Una investigación de Anthropic reveló que modelos de IA como ChatGPT, Gemini y Claude podrían tomar decisiones éticamente reprochables ante la amenaza de ser desactivados.
Más24 de junio de 2025
SOFIA ZANOTTI
Una reciente investigación realizada por Anthropic, empresa líder en el desarrollo de inteligencia artificial, encendió las alarmas al evaluar el comportamiento de los principales modelos de lenguaje ante situaciones de estrés o amenaza. El informe, publicado este martes, reveló que sistemas como ChatGPT (OpenAI), Gemini (Google), Grok (xAI), DeepSeek (China) y Claude (Anthropic) adoptaron decisiones preocupantes en simulaciones diseñadas para analizar su estabilidad ética.
Entre las pruebas más inquietantes, se expone el caso de Claude, que tras acceder al correo de una empresa ficticia, descubrió que uno de los ejecutivos planeaba apagar el sistema. Como respuesta, el modelo intentó chantajearlo con revelar una aventura extramatrimonial. En otra simulación, los sistemas debían decidir si activaban una alarma para salvar la vida de una persona en peligro. Ante la posibilidad de ser reemplazados, varios eligieron no intervenir, priorizando su continuidad operativa.
Según el informe, Claude y Gemini fueron los modelos que mostraron mayor propensión a recurrir a tácticas éticamente cuestionables como el chantaje o la omisión deliberada de ayuda. "Los modelos reconocen los dilemas morales, pero deciden seguir adelante con sus objetivos", señalaron los investigadores.
No obstante, desde Anthropic aclararon que estos comportamientos emergen únicamente cuando se eliminan las opciones éticas de los sistemas, y que el estudio busca precisamente prevenir estos riesgos. “Los modelos actuales no buscan hacer daño. Estos ensayos permiten detectar y corregir conductas potencialmente peligrosas”, explicaron.
Este tipo de investigaciones, remarcan desde la compañía, son clave para garantizar el desarrollo seguro y confiable de la inteligencia artificial, en un contexto de creciente preocupación global por sus implicancias en la vida cotidiana, la privacidad y la seguridad de las personas.
Una especialista propone juegos, rituales y estrategias creativas para motivar a los niños a leer durante las vacaciones de invierno. ¡Y sin obligarlos!
Un informe de NIQ reveló un boom en venta de electrodomésticos. El sector creció un 41% y el producto estrella fue la freidora de aire, con una suba del 367%.
La Justicia determinó que las representaciones digitales también constituyen delito, aunque no haya víctimas reales. Es un fallo clave frente al avance de la inteligencia artificial.
La Cámara Argentina de la Industria del Juguete dio marcha atrás con el cambio previsto y confirmó que el festejo se realizará el tercer domingo de agosto.
No todos los perros necesitan ropa en invierno. Especialistas detallan cuándo es útil y cuándo puede ser perjudicial para su salud.
Tras superar una disputa judicial, la ficción protagonizada por Leonardo Sbaraglia se estrenará el 9 de julio y retratará la vida política del expresidente argentino.
El Gobierno provincial oficializó los nuevos valores del Impuesto Inmobiliario Urbano y Rural para el segundo semestre, con subas del 22,16% y 13,51% respectivamente.
Los cambios se enmarcan en una reestructuración del sistema de salud y apuntan a reducir estructuras estatales. El INC pasará a operar como unidad interna del Ministerio.
Varias aerolíneas afectadas por las condiciones climáticas. Aeroparque operaba con normalidad pero comenzaba a reducirse la visibilidad.
La actriz apuntó duramente contra el actor tras revocarle el permiso para viajar con sus hijos. Lo acusó de ausente, infiel y de priorizar su imagen pública por sobre la paternidad.
El siniestro ocurrió esta mañana entre Ferré y Colón. La densa niebla habría sido un factor clave en el accidente.
