OpenAI ha suspendido indefinidamente sus planes para lanzar un chatbot capaz de generar contenido sexual explícito, informó la compañía este jueves 26 de marzo. La medida, reportada inicialmente por el Financial Times, responde a crecientes preocupaciones internas y externas sobre los riesgos sociales, éticos y reputacionales asociados con un producto de este tipo.
La función, conocida en el interior de la empresa como "modo Citron", formaba parte de una iniciativa anunciada el año pasado para relajar las restricciones de ChatGPT, permitiendo contenido erótico para usuarios adultos verificados. En su momento, OpenAI justificó el cambio como un esfuerzo por "tratar a los usuarios adultos como adultos". Sin embargo, la propuesta generó críticas entre empleados y accionistas.
Según fuentes citadas por el FT, varios trabajadores cuestionaron si el desarrollo de un chatbot con contenido sexual explícito era coherente con la misión de la empresa de garantizar que su tecnología beneficie a la humanidad. Por su parte, los inversionistas expresaron preocupación por el potencial daño a la reputación de la marca, especialmente en un entorno regulatorio cada vez más estricto.
La cancelación del proyecto coincide con el anuncio del cierre de Sora, la aplicación de video generada por inteligencia artificial, que fue descontinuada tras generar una avalancha de contenido de bajo valor añadido en línea. Ambas decisiones reflejan una estrategia de OpenAI por deshacerse de iniciativas secundarias y concentrarse en mantener su liderazgo en el competitivo sector de la IA.
Este movimiento ocurre en un contexto delicado para la industria tecnológica. Empresas como Meta enfrentan múltiples demandas y regulaciones por el impacto de sus plataformas en menores. Asimismo, el chatbot Grok, desarrollado por xAI, la empresa de inteligencia artificial de Elon Musk, fue ampliamente criticado el año pasado tras usarse para generar imágenes sexuales falsas de personas reales, incluidos menores.
Con esta suspensión, OpenAI busca reforzar su compromiso con el desarrollo responsable de la inteligencia artificial, evitando controversias que podrían afectar su posición en el mercado global.