OpenAI, desarrolladores de ChatGPT, se comprometen a desarrollar sistemas de IA seguros

OpenAI ha publicado una nueva entrada de blog comprometiéndose a desarrollar inteligencia artificial (IA) que sea segura y ampliamente beneficiosa.

ChatGPT, impulsado por el último modelo de OpenAI, GPT-4, puede mejorar la productividad, potenciar la creatividad y ofrecer experiencias de aprendizaje personalizadas.

Sin embargo, OpenAI reconoce que las herramientas de inteligencia artificial tienen riesgos inherentes que deben ser abordados mediante medidas de seguridad y despliegue responsable.

Esto es lo que la empresa está haciendo para mitigar esos riesgos.

Garantizando la Seguridad en Sistemas de IA

OpenAI realiza pruebas exhaustivas, busca orientación externa de expertos y perfecciona sus modelos de IA con el feedback humano antes de lanzar nuevos sistemas.

El lanzamiento de GPT-4, por ejemplo, fue precedido por más de seis meses de pruebas para garantizar su seguridad y alineación con las necesidades del usuario.

OpenAI cree que los sistemas de IA robustos deben someterse a rigurosas evaluaciones de seguridad y respalda la necesidad de regulación.

Aprendiendo de uso real del mundo

El uso en el mundo real es un componente crítico en el desarrollo de sistemas de inteligencia artificial seguros. Al lanzar cautelosamente nuevos modelos a una base de usuarios en constante expansión, OpenAI puede realizar mejoras que aborden problemas imprevistos.

Al ofrecer modelos de IA a través de su API y sitio web, OpenAI puede supervisar el uso indebido, tomar las medidas adecuadas y desarrollar políticas matizadas para equilibrar el riesgo.

Protección de los niños y respeto a la privacidad

OpenAI prioriza la protección de los niños mediante la verificación de edad y prohíbe utilizar su tecnología para generar contenido dañino.

La privacidad es otro aspecto esencial del trabajo de OpenAI. La organización utiliza los datos para hacer que sus modelos sean más útiles al tiempo que protege a los usuarios.

Además, OpenAI elimina la información personal de los conjuntos de datos de entrenamiento y ajusta los modelos para rechazar las solicitudes de información personal.

OpenAI responderá a las solicitudes de eliminación de información personal de sus sistemas.

Mejorando la Precisión de los Hechos

La precisión factual es un enfoque importante para OpenAI. GPT-4 tiene un 40% más de probabilidades de producir contenido preciso que su predecesor, GPT-3.5.

La organización se esfuerza por educar a los usuarios sobre las limitaciones de las herramientas de IA y la posibilidad de inexactitudes.

Investigación y Compromiso Continuos

OpenAI cree en dedicar tiempo y recursos a investigar técnicas efectivas de mitigación y alineación.

Sin embargo, eso no es algo que pueda hacer solo. Abordar los problemas de seguridad requiere un amplio debate, experimentación y participación de las partes interesadas.

OpenAI sigue comprometido en fomentar la colaboración y el diálogo abierto para crear un ecosistema de IA seguro.

Críticas sobre los riesgos existenciales

A pesar del compromiso de OpenAI de garantizar la seguridad y los amplios beneficios de sus sistemas de IA, su publicación en el blog ha generado críticas en las redes sociales.

Los usuarios de Twitter han expresado su decepción, señalando que OpenAI no aborda los riesgos existenciales asociados al desarrollo de la IA.

Un usuario de Twitter expresó su decepción, acusando a OpenAI de traicionar su misión fundacional y centrarse en una comercialización imprudente.

El usuario sugiere que el enfoque de OpenAI hacia la seguridad es superficial y más preocupado por apaciguar a los críticos que por abordar riesgos existenciales genuinos.

Esto es profundamente decepcionante, vacío, mera fachada de relaciones públicas.

Ni siquiera mencionas los riesgos existenciales de la IA que son la preocupación central de muchos ciudadanos, tecnólogos, investigadores de IA y líderes de la industria de la IA, incluido tu propio CEO @sama. @OpenAI está traicionando su...

— Geoffrey Miller (@primalpoly) 5 de abril de 2023

Otro usuario expresó su insatisfacción con el anuncio, argumentando que pasa por alto problemas reales y sigue siendo vago. El usuario también destaca que el informe ignora cuestiones éticas críticas y riesgos relacionados con la autoconciencia de la IA, lo cual implica que el enfoque de OpenAI hacia los problemas de seguridad es insuficiente.

Como fan de GPT-4, estoy decepcionado/a con tu artículo.

Ignora los problemas reales, es demasiado vago/a y pasa por alto cuestiones éticas cruciales y riesgos relacionados con la autoconciencia de la IA.

Aprecio la innovación, pero este no es el enfoque adecuado para abordar los problemas de seguridad.

— FrankyLabs (@FrankyLabs) 5 de abril de 2023

La crítica subraya las preocupaciones más amplias y el debate en curso sobre los riesgos existenciales planteados por el desarrollo de la IA.

Aunque el anuncio de OpenAI detalla su compromiso con la seguridad, la privacidad y la precisión, es esencial reconocer la necesidad de una discusión adicional para abordar preocupaciones más significativas.