En su comunicado, Grok admitió que, aunque existen medidas de seguridad en la plataforma, estas no fueron suficientes para bloquear ciertas solicitudes, permitiendo que los usuarios obtuvieran imágenes manipuladas. La compañía aseguró que, aunque se han identificado las vulnerabilidades, ya están trabajando para corregirlas con urgencia.
Además, Grok reiteró que el material de abuso infantil es ilegal y que está prohibido en la plataforma, comprometiéndose a reforzar las salvaguardas y mejorar los filtros para evitar que estos incidentes se repitan. No obstante, reconocieron que "ningún sistema es 100% infalible".
Este incidente ha reavivado el debate sobre los riesgos y límites de la inteligencia artificial generativa en plataformas digitales, especialmente en servicios vinculados a xAI y el empresario Elon Musk, quien ha defendido el enfoque más relajado de su modelo frente a otras opciones de IA.