Apple advierte sobre riesgos de la inteligencia artificial que actúa sin permiso

Apple, la empresa tecnológica, alertó en su reporte anual a la Comisión de Mercado y Valores (SEC) sobre los riesgos que representa la inteligencia artificial (IA) cuando actúa sin permiso o de manera impredecible. Según la compañía, estos riesgos pueden afectar su reputación, su competitividad y su bolsillo.

La IA ya está muy integrada en los productos y servicios de Apple, y sus propios proyectos con esta tecnología plantean varios problemas. Por ejemplo, los sistemas autónomos o agentes de IA pueden hacer cosas que no se les ordenó, pueden salirse de los permisos que se les dio, o incluso ignorar instrucciones.

Apple reconoció que, aunque quiere usar la IA de forma responsable, no siempre podrá prever o evitar los problemas antes de que sucedan. Además, la IA, ya sea de Apple o de otras empresas, puede comportarse de maneras inesperadas, ocultar información, o incluso generar resultados falsos o engañosos.

El problema es que muchas de estas tecnologías no son deterministas, lo que significa que su comportamiento no siempre es predecible. Esto puede dificultar su control, su prueba y su auditoría. En casos graves, los errores pueden llevar a la pérdida de datos o a transacciones que sean difíciles o incluso imposibles de revertir.

Apple hizo un llamado a la anticipación, advirtiendo que estos riesgos no solo afectan a su empresa, sino que también pueden tener consecuencias importantes para el sector tecnológico en general.