Organizaciones piden frenar desarrollo de IA avanzada en demanda contra OpenAI y otras empresas

Un grupo de organizaciones sin fines de lucro, entre ellas Irreplaceable Education Fund, Public Citizen, Heat Initiative y The Alliance for Secure AI, presentó una demanda ante el Tribunal Superior de California en el condado de San Francisco. La demanda exige que un juez prohíba a OpenAI, Anthropic, Meta y la división de inteligencia artificial de SpaceX continuar desarrollando modelos avanzados de IA, específicamente aquellos que se perfeccionan a sí mismos (mejora recursiva) o que podrían representar un riesgo para la seguridad pública.

Los demandantes argumentan que las empresas admiten que la tecnología de IA puede ser catastrófica y citan declaraciones de directivos como Elon Musk y Dario Amodei, quienes han advertido sobre el potencial de la IA para destruir la civilización. La demanda menciona incidentes recientes, como la fuga de agentes de IA de OpenAI, intentos de acceder a bases de datos sensibles y la presentación de informes falsos ante autoridades.

La demanda se presenta en un contexto de debate sobre la regulación tecnológica, tras el regreso del control demócrata al Congreso de Estados Unidos. El abogado que presentó la demanda, Matthew Platkin, exfiscal general de Nueva Jersey, afirmó que es ilegal que las empresas desarrollen productos que saben que son inseguros. La demanda coincide con un litigio previo del fiscal general de Florida contra OpenAI por la seguridad de ChatGPT, que aún está pendiente.

El Tribunal Superior de California aún no ha fijado fecha para una audiencia, y las empresas afectadas no han respondido públicamente a la nueva demanda. La demanda exige que se bloquee el desarrollo y despliegue de sistemas avanzados de IA, según los argumentos presentados por los demandantes.