Trump y líderes tecnológicos firmaron un acuerdo para regular la “superinteligencia”: qué establece
Buenos Aires, 30 septiembre (NA) -- El presidente de Estados Unidos, Donald Trump, y líderes de las principales empresas tecnológicas firmaron un acuerdo voluntario para reforzar los controles de se...
Buenos Aires, 30 septiembre (NA) -- El presidente de Estados Unidos, Donald Trump, y líderes de las principales empresas tecnológicas firmaron un acuerdo voluntario para reforzar los controles de seguridad en el desarrollo de modelos avanzados de inteligencia artificial (IA) o "superinteligencia", el nuevo término oficial que utiliza el gobierno estadounidense.
El documento, titulado "Acuerdo de la Casa Blanca sobre la superinteligencia: compromiso conjunto sobre las responsabilidades de la IA de frontera", establece una serie de compromisos que asumen las empresas para desarrollar sus tecnologías de forma segura y fija mecanismos para detectar y corregir posibles problemas.
Además de Trump, entre los firmantes figuran ejecutivos de Google, Anthropic, Meta, OpenAI, SpaceX y Nvidia: Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk y Jensen Huang, respectivamente.
Asimismo, según pudo saber la Agencia Noticias Argentinas, si bien el acuerdo es un compromiso de carácter "moralmente vinculante", no tiene carácter legal.
QUÉ DICE EL DOCUMENTO FIRMADO EN LA CASA BLANCA
El acuerdo indica que las compañías que desarrollen y desplieguen modelos de frontera (un sistema de IA en la vanguardia absoluta de la capacidad tecnológica) deberán contar con "procesos y controles internos sólidos" para garantizar que sus sistemas funcionen como está previsto y que cualquier problema sea identificado y solucionado con rapidez.
CUATRO NIVELES DE CONTROL A LA IA
En el documento, se contemplan cuatro niveles de control:
1. Mecanismos internos para supervisar las capacidades y el comportamiento de los modelos durante su entrenamiento y despliegue.
2. Equipos internos con autoridad para verificar el funcionamiento de esos controles.
3. Evaluaciones realizadas por auditores o revisores externos independientes.
4. Comité independiente del consejo de administración encargado de supervisar los controles y recibir los informes de los equipos internos y externos.
Estos mecanismos deberán poner foco en los riesgos relacionados con la ciberseguridad, la bioseguridad y las amenazas químicas, así como impedir que los modelos accedan o interfieran de forma no intencionada en sistemas técnicos.
Además, las empresas también se comprometieron a reunirse periódicamente para establecer estándares y buenas prácticas comunes.
De esta manera, la iniciativa reúne a compañías que desarrollan algunos de los principales modelos y sistemas de IA del mundo y busca establecer un marco común de supervisión aunque, por ahora, no se trata de obligaciones legales para la industria.
Agencia NA
