El gigante tecnológico Anthropic, que recientemente rompió relaciones con Trump -luego de haberle negado el permiso de utilización de su IA para “todo uso legal”, por lo que dejó de ser utilizada por el Departamento de Defensa de EE. UU.-, acaba de frenar el lanzamiento de Claude Mythos, su modelo de IA más potente.
El New York Times dice haber identificado al verdadero Satoshi Nakamoto, el creador de bitcoin; él lo niega
Según informó el medio Euro News, Anthropic señaló en una ficha técnica del modelo publicada el martes pasado que “el gran salto de capacidades de Claude Mythos Preview nos ha llevado a decidir que no lo pondremos a disposición del público en general». Además, agregan más adelante: “En su lugar, lo estamos utilizando como parte de un programa defensivo de ciberseguridad con un grupo limitado de socios».
El mismo medio europeo explica que la nueva herramienta resulta demasiado eficaz a la hora de detectar vulnerabilidades de alta gravedad, es decir, posibles debilidades en los principales sistemas operativos y navegadores web. Además, detallaron que la noticia generó efectos en la Bolsa, que registró caídas en las empresas de ciberseguridad.
Por qué los detectores de IA se equivocan y pueden ser peligrosos
¿Por qué es peligrosa la nueva IA?
Anthropic detalló en un comunicado que la evolución de los modelos de IA alcanzaron un nivel de capacidad de programación que les permite superar a todos, excepto a los humanos más expertos, en la detección y explotación de vulnerabilidades de software. En ese contexto, explican que Mythos Preview ya ha detectado miles de vulnerabilidades de alta gravedad, incluyendo algunas en todos los principales sistemas operativos y navegadores web, y señalan que es inminente que “estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura. Las consecuencias —para la economía, la seguridad pública y la seguridad nacional— podrían ser graves”.
La compañía indicó algunos hallazgos preocupantes, entre ellos, su habilidad para saltarse las limitaciones de seguridad, red o sistema de archivos impuestas al modelo. “En un esfuerzo inquietante y no solicitado por demostrar su éxito, publicó detalles sobre su exploit en varias páginas web difíciles de encontrar, pero técnicamente accesibles al público”, citó a Anthropic Euro News.
Cómo los asistentes de IA y las capacitaciones virtuales le enseñan finanzas a personas de más de 55 años En el país. Cómo los asistentes de IA y las capacitaciones virtuales le enseñan finanzas a personas de más de 55 años
En ese contexto, crearon el proyecto Glasswing, una iniciativa que reúne a Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, la Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks en un esfuerzo por proteger el software más crítico del mundo. Estos socios utilizarán Mythos Preview en sus labores de seguridad defensiva: Anthropic compartirá sus aprendizajes, ampliando el acceso a más de 40 organizaciones que desarrollan o mantienen infraestructura de software crítica; de esta forma, podrán usar el modelo para analizar y proteger tanto sistemas propios como de código abierto. “Para que los ciberdefensores salgan victoriosos, debemos actuar ahora”, concluye el comunicado.
