Italia acaba de prohibir ChatGPT. ¿Podría ser Estados Unidos el siguiente?

Los modelos de IA generativa, como el ChatGPT de OpenAI, recopilan datos para afinar y entrenar sus propios modelos. Italia considera esta recopilación de datos como una posible violación de la privacidad del usuario y, como resultado, ha prohibido el ChatGPT en el país.

El viernes, la Autoridad Italiana de Protección de Datos publicó un comunicado imponiendo una limitación temporal inmediata en el procesamiento de los datos de los usuarios italianos por parte de OpenAI.

Las dos principales preocupaciones a las que intenta hacer frente la prohibición son la recopilación no autorizada de datos de usuario y la falta de verificación de edad, lo que expone a los niños a respuestas que son "absolutamente inapropiadas para su edad y conciencia", según el comunicado.

En cuanto a la recopilación de datos, las autoridades afirman que OpenAI no ha sido legalmente autorizado para recopilar datos de usuario.

Según la Autoridad Italiana de Protección de Datos en el comunicado, "No parece haber ninguna base legal que respalde la recopilación masiva y el procesamiento de datos personales para 'entrenar' los algoritmos en los que se basa la plataforma".

El representante designado de OpenAI en el Espacio Económico Europeo tiene 20 días para cumplir con la orden, de lo contrario, la empresa de investigación en inteligencia artificial podría enfrentar una multa de hasta 20 millones de euros o el 4% del volumen de negocios anual total a nivel mundial.

La decisión se tomó tras una violación de datos el 20 de marzo, que expuso las conversaciones y la información sobre los pagos de los usuarios de ChatGPT.

Esta infracción destacó los posibles riesgos de utilizar herramientas de IA que todavía están en fase de investigación pero aún están disponibles para uso público.

¿Puede ocurrir pronto una prohibición en los Estados Unidos? Los líderes tecnológicos en los Estados Unidos ya han comenzado a pedir una prohibición temporal en el desarrollo de la IA.

Al comienzo de esta semana, el CEO de Tesla, Elon Musk, el cofundador de Apple, Steve Wozniak, y Emad Mostaque, CEO de Stability AI, se encontraban entre los líderes tecnológicos que firmaron una petición instando a los laboratorios de IA a hacer una pausa, durante al menos seis meses, en el entrenamiento de sistemas de IA más potentes que GPT-4.

Al igual que la prohibición en Italia, el descanso instado por la petición busca proteger a la sociedad de los "profundos riesgos para la sociedad y la humanidad" que los sistemas de IA con inteligencia competitiva con los humanos pueden provocar.

La petición incluso insta a los legisladores estadounidenses a considerar la intervención si la pausa no ha sido impuesta por los propios laboratorios de inteligencia artificial.