Siete empresas de IA acuerdan salvaguardias en USA
Por Shiona McCallum, reportera de Tecnologia en BBC news del 22 de Julio de 2023
Siete empresas líderes en inteligencia artificial se han comprometido a gestionar los riesgos que plantea la tecnología, dijo la Casa Blanca.
Esto incluirá probar la seguridad de la IA y hacer públicos los resultados de esas pruebas.
Representantes de Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI se unieron al presidente de EE. UU., Joe Biden, para hacer el anuncio.
El ritmo al que las empresas han estado desarrollando sus herramientas ha generado temores sobre la difusión de desinformación, especialmente en el período previo a las elecciones presidenciales de EE. UU. de 2024.
“Debemos tener los ojos claros y estar atentos a las amenazas que surgen de las tecnologías emergentes que pueden representar, no tienen que hacerlo, pero pueden representar, para nuestra democracia y nuestros valores”, dijo el presidente Joe Biden durante los comentarios del viernes.
El miércoles, Meta, la empresa matriz de Facebook, anunció su propia herramienta de IA llamada Llama 2.
Sir Nick Clegg, presidente de asuntos globales de Meta, le dijo a la BBC que “la exageración se ha adelantado un poco a la tecnología”.
Como parte del acuerdo firmado el viernes, las empresas acordaron:
Pruebas de seguridad de sus sistemas de IA por parte de expertos internos y externos antes de su lanzamiento.
Garantizar que las personas puedan detectar la IA mediante la implementación de marcas de agua.
Informar públicamente sobre las capacidades y limitaciones de la IA de forma regular.
Investigar los riesgos como el sesgo, la discriminación y la invasión de la privacidad.
El objetivo es que sea fácil para las personas saber cuándo la IA crea contenido en línea, agregó la Casa Blanca.
“Esta es una responsabilidad seria, tenemos que hacerlo bien”, dijo Biden. “Y también hay un potencial enorme, enorme”.
Las marcas de agua para el contenido generado por IA fueron uno de los temas que el comisionado de la UE, Thierry Breton, discutió con el director ejecutivo de OpenAI, Sam Altman, durante una visita a San Francisco en junio.
“Espero continuar nuestras discusiones, especialmente sobre las marcas de agua”, escribió Breton en un tuit que incluía un fragmento de video de él y Altman.
En el video clip, Altman dijo que “le encantaría mostrar” lo que estaba haciendo OpenAI con las marcas de agua “muy pronto”.
Las salvaguardas voluntarias firmadas el viernes son un paso hacia una regulación más sólida en torno a la IA en los EE. UU.
La administración también está trabajando en una orden ejecutiva, dijo en un comunicado.
La Casa Blanca dijo que también trabajaría con aliados para establecer un marco internacional que rija el desarrollo y uso de la IA.
Las advertencias sobre la tecnología incluyen que podría usarse para generar información errónea y desestabilizar a la sociedad, e incluso que podría representar un riesgo existencial para la humanidad, aunque algunos científicos informáticos innovadores han dicho que las advertencias apocalípticas son exageradas.
Ver nota comnpleta en https://www.bbc.com/news/technology-66271429