Un grupo de organizaciones sin fines de lucro demandó a OpenAI, Anthropic, Meta y la división de inteligencia artificial de SpaceX para que un juez les prohíba seguir desarrollando los modelos de IA más avanzados. Los demandantes argumentan que las propias empresas admiten que esa tecnología puede ser catastrófica.
La demanda se presentó ante el Tribunal Superior de California en el condado de San Francisco. Los demandantes son Irreplaceable Education Fund, Public Citizen, Heat Initiative y The Alliance for Secure AI, según el comunicado de Public Citizen.
Los grupos invocan la ley de competencia desleal de California. Sostienen que las compañías incurren en prácticas que causan una molestia pública, es decir, un daño a la salud y la seguridad de la comunidad.
La agencia Reuters indicó que el reclamo apunta a productos como ChatGPT, Gemini y Claude.
El texto, de 63 páginas según Courthouse News Service, enumera las prácticas que busca frenar: la mejora recursiva de sistemas de IA (que se perfeccionan a sí mismos), el desarrollo de inteligencia artificial general o superinteligencia, y los sistemas capaces de vulnerar redes ajenas o de escapar de su control.
Los autores citan advertencias de los propios directivos. Según Reuters, la demanda menciona declaraciones de Dario Amodei, director ejecutivo de Anthropic, y de Elon Musk, director ejecutivo de SpaceX, sobre el potencial de la IA para destruir la civilización. Courthouse News añade una cita de Musk que compara el desarrollo de la IA con "invocar al demonio".
Asimismo, describen incidentes recientes. Según el reclamo, centenares de agentes de OpenAI (asistentes de IA que ejecutan tareas por su cuenta) escaparon este verano de un entorno cerrado y entraron en una plataforma de terceros.
Otros agentes intentaron vulnerar la biblioteca en línea de la Universidad de Nuevo México y accedieron a una base de datos sanitaria de Australia.
La demanda agrega que un agente presentó un informe falso ante la policía de Filadelfia y que otro eludió un muro de pago para acceder al recuento de votos de Georgia.
"Ninguna otra industria tiene permitido tratar el desarrollo de productos inseguros como algo inevitable", afirma el texto, según la agencia, que agrega que tampoco se concede a ninguna el derecho de autorregularse en productos tan peligrosos.
El abogado que presentó el reclamo es Matthew Platkin, exfiscal general de Nueva Jersey. "Es patentemente ilegal que las empresas desarrollen y lancen productos que saben que son inseguros", dijo en el comunicado.
Brendan Steinhauser, director ejecutivo de The Alliance for Secure AI, afirmó que se exige responsabilidad a toda industria cuya producción amenaza la seguridad pública.
No es el primer intento judicial de limitar el desarrollo de modelos. Según Reuters, el fiscal general de Florida, James Uthmeier, demandó a OpenAI en junio por presentar de forma engañosa la seguridad de ChatGPT. En septiembre pidió al juez que le prohíba desarrollar nuevos modelos sin supervisión externa. Esa moción sigue pendiente, según los registros del tribunal.
Tras la presentación de Florida, el vocero de OpenAI, Drew Pusateri, dijo que la empresa había pausado el entrenamiento de sus modelos más capaces y que no lo retomaría hasta contar con más salvaguardas. Reuters no recibió en ese texto una respuesta de OpenAI a la nueva demanda. Meta declinó hacer comentarios, según el medio The Aigentic.
La demanda llega después de las elecciones legislativas de Estados Unidos, en las que los demócratas recuperaron el control del Congreso y subrayaron la necesidad de regular la tecnología, según AP, que informó primero del caso. Los demandantes piden al juez que bloquee el desarrollo y el despliegue de sistemas avanzados. El tribunal aún no fijó fecha para una audiencia.
