La industria tecnológica está gastando miles de millones de dólares en un esfuerzo por actualizar las herramientas actuales de inteligencia artificial hacia la llamada superinteligencia, un término ambiguo utilizado por empresas como Meta y OpenAI para referirse a un software futuro que esperan supere a los humanos en todos los aspectos. Una coalición informal de laureados con el Nobel, legisladores, celebridades e incluso un miembro de la realeza británica afirmó que el trabajo en esta tecnología hipotética debe detenerse.
“Hacemos un llamado a la prohibición del desarrollo de la superinteligencia”, dice una declaración pública con más de 700 firmantes, entre los que se incluyen destacados investigadores en IA, el príncipe Harry, el exasesor de Trump Stephen K. Bannon y la exasesora de seguridad nacional de la administración Obama, Susan Rice. La prohibición solo debería levantarse después de que exista un “fuerte respaldo público” y un consenso científico de que la tecnología puede hacerse segura, señala la declaración, sin especificar cómo podría medirse cualquiera de los dos.
La mayoría de los expertos en IA de la industria y la academia no creen que dicha tecnología sea inminente, a pesar de acciones como la del director ejecutivo de Meta, Mark Zuckerberg, quien gastó unos 15.000 millones de dólares para lanzar un nuevo “laboratorio de superinteligencia” en el verano del hemisferio norte. Las empresas tecnológicas y los gobiernos nacionales compiten por acelerar el desarrollo de la IA, lo que hace poco probable cualquier prohibición.
Pero la declaración, coordinada por la organización sin fines de lucro Future of Life Institute, llega en un momento de renovado debate en Washington, Silicon Valley y en todo el país sobre si los posibles efectos disruptivos de la tecnología de IA existente requieren nuevas regulaciones.
La mitad de los estadounidenses están más preocupados por la IA que entusiasmados con ella, según una encuesta realizada en primavera por el Pew Research Center. Una encuesta de Gallup de la misma época encontró que el 80 por ciento de los estadounidenses apoyaba reglas para la IA incluso si eso ralentizaba su desarrollo tecnológico. La administración Trump se ha alineado con figuras tecnológicas que favorecen una regulación mínima, revirtiendo las normas sobre IA introducidas por el presidente Joe Biden y apoyando una propuesta de moratoria federal sobre la regulación estatal de la IA.
Sin embargo, legisladores federales y estatales han lanzado decenas de iniciativas para regular la tecnología de IA. Más de la mitad de los estados de Estados Unidos han aprobado leyes relacionadas con la IA, creando un mosaico de regulaciones en todo el país. En respuesta, Meta y la firma de capital de riesgo Andreessen Horowitz han creado en los últimos meses comités de acción política para apoyar a candidatos que se oponen a una regulación estricta de la IA.
“El estado de la regulación de la IA está evolucionando rápidamente. A medida que el uso público de las herramientas de IA se dispara, los legisladores están profundizando en el tema”, dijo Katy Milner, socia del estudio de abogados Hogan Lovells que trabaja con empresas tecnológicas. “El Congreso y los estados han presentado cientos de proyectos de ley relacionados con la IA sobre temas como la privacidad de datos y el uso gubernamental, con algunos ya promulgados y muchos más proyectos de ley probablemente por venir”.
Pocos de esos proyectos de ley probablemente se centren en el tipo de tecnología de IA especulativa a la que apunta la declaración del miércoles publicada por el Future of Life Institute. La organización sin fines de lucro organizó una carta abierta en 2023 en la que algunos líderes empresariales e investigadores en IA pidieron una “pausa” de seis meses en el entrenamiento de IA más avanzada, pero eso no pareció frenar a la industria tecnológica.
“Muchas personas quieren herramientas de IA potentes para la ciencia, la medicina, la productividad y otros beneficios. Pero el camino que están tomando las corporaciones, de correr hacia una IA más inteligente que los humanos diseñada para reemplazar a las personas, está completamente fuera de sintonía con lo que quiere el público”, dijo Anthony Aguirre, cofundador y director ejecutivo del Future of Life Institute.
La declaración del miércoles también fue firmada por el actor Joseph Gordon-Levitt y varios laureados con el Nobel de Física, incluido Geoffrey Hinton, un investigador ampliamente considerado como uno de los precursores de las herramientas de IA actuales. Hinton dejó Google en 2023 para poder hablar con mayor libertad sobre sus preocupaciones respecto a la tecnología de IA.
Estados como California se han centrado en regular los posibles daños de las herramientas de IA en el uso diario, como los chatbots, o en exigir mayor transparencia a las empresas que desarrollan IA. En septiembre, el gobernador de California, Gavin Newsom (demócrata), firmó una ley que exige a las empresas de IA publicar informes de seguridad detallando los posibles “riesgos catastróficos” de su tecnología, como permitir que hackers rompan software de encriptación o que terroristas creen nuevas armas biológicas.
Este mes, Newsom firmó la primera ley del país que regula cómo los chatbots de IA pueden interactuar con menores, después de que tres familias estadounidenses alegaran en demandas separadas que un chatbot de IA había contribuido al suicidio de un adolescente.
En Washington, algunos políticos republicanos continúan luchando contra la regulación de la IA tanto a nivel federal como estatal. Los defensores del desarrollo sin restricciones de la IA casi lograron aprobar una moratoria de 10 años sobre la mayoría de las leyes estatales como parte del amplio proyecto de ley republicano sobre impuestos e inmigración a principios de este año.
Finalmente fracasó en el Senado después de que los opositores a la medida, incluidos defensores de los trabajadores y de la seguridad infantil, se unieran a legisladores estatales y fiscales generales de ambos partidos para criticar la moratoria. Alegaron que era una violación de los derechos de los estados y un regalo para las grandes tecnológicas.
En un intento por resucitar la idea de un escudo federal para las empresas de IA, el presidente Donald Trump publicó en julio un “Plan de Acción para la IA” que proponía bloquear ciertos fondos federales a los estados que aprueben leyes consideradas “gravosas”. El senador Ted Cruz (republicano por Texas) ha presentado un proyecto de ley que permitiría a las empresas de IA solicitar exenciones de dos años a las regulaciones externas.
Fuente: The Washington Post