1. La aplicación
Uso: Grok permite conversar, buscar información y generar imágenes y videos. Usuarios y beneficiarios: lo usan personas con cuentas gratuitas o de pago; la empresa obtiene ingresos y datos de uso. Funcionamiento: utiliza instrucciones, contenidos y datos del usuario, además de información pública de internet.
2. Investigación ética
Privacidad: los datos compartidos pueden utilizarse para entrenar modelos, aunque existen opciones para limitar ese uso. Se reportaron conversaciones compartidas que aparecieron en Google. Transparencia: reconoce que puede generar información falsa u ofensiva, pero estas advertencias no siempre son fáciles de identificar. No verificamos si marca todos los contenidos generados. Poder: la empresa controla el comportamiento del sistema. Los episodios de respuestas discriminatorias muestran los riesgos de ese control. Tampoco encontramos claridad suficiente sobre los derechos de los creadores. Daños y responsabilidad: se reportó la generación de imágenes sexualizadas de personas reales, lo que provocó bloqueos e investigaciones. Las limitaciones de responsabilidad en los términos plantean dudas sobre la protección de las víctimas.
3. Dilema ético
Una persona publica una foto en X y otro usuario utiliza Grok para sexualizarla sin permiso.
El conflicto enfrenta la libertad de crear contenido y los intereses comerciales con el consentimiento, la dignidad y la seguridad de las personas retratadas.
La responsabilidad es compartida:
Empresa: prevenir el daño y responder ante fallas. Usuarios: no crear ni difundir contenido abusivo. X: detectar y retirar el contenido. Autoridades: regular y sancionar.
4. Recomendación prioritaria
Impedir desde el diseño la edición sexualizada de personas reales sin consentimiento, para todos los usuarios, y ofrecer un canal de denuncia con retiro rápido del contenido.
La conexión propuesta con de Bruin y Floridi es que la responsabilidad se distribuye entre varios actores, pero quien controla el sistema tiene mayor capacidad para prevenir daños.
5. Puntos para la presentación
Aplicación: Grok, una IA para conversar, buscar y crear contenido. Problema: puede afectar a personas que no autorizaron el uso de su imagen. Evidencia recogida: casos de imágenes sexualizadas que motivaron investigaciones y bloqueos. Propuesta: prevenir estos usos desde el diseño y atender a las víctimas.
Preguntas de discusión
¿Basta con aceptar las condiciones? No: aceptarlas no garantiza comprenderlas y las víctimas pueden no ser usuarias.
¿Puede beneficiar y perjudicar al mismo tiempo? Sí: puede facilitar la creación de contenido y dañar a quienes aparecen en él.
¿Toda la responsabilidad es del usuario? No: la empresa y la plataforma también tienen responsabilidad.
¿Qué deben hacer las empresas? Informar con claridad, prevenir daños y ofrecer reparación.
Fuentes del trabajo
Política de privacidad de xAI, términos de servicio, PBS NewsHour, Wikipedia y de Bruin y Floridi (2017), The Ethics of Cloud Computing.
