El estado de Florida presentó una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, por presuntas prácticas comerciales engañosas y negligencia en la protección de menores frente a la inteligencia artificial.
El estado de Florida presentó una demanda sin precedentes contra OpenAI y su director ejecutivo, Sam Altman, señalando que la compañía y su producto ChatGPT representan un riesgo considerable para los menores. La demanda sostiene que la empresa es consciente de los peligros de su herramienta pero prioriza el crecimiento y el beneficio económico sobre la seguridad pública.
La acción judicial fue presentada ante el décimo circuito de Florida y acusa a OpenAI de prácticas comerciales engañosas, negligencia y violación de las leyes estatales de responsabilidad por productos. Según la demanda, Sam Altman es personalmente responsable por los supuestos daños causados a los habitantes del estado, debido a su “absoluto desprecio por el riesgo para la vida humana causado por la conducta de sus empresas”.
El fiscal general de Florida, James Uthmeier, afirmó durante una conferencia de prensa que la empresa ha optado por avanzar en el desarrollo de la inteligencia artificial sin considerar los riesgos para la infancia. Uthmeier declaró que la prioridad de OpenAI ha sido el crecimiento del sector y el beneficio económico por encima de la seguridad de los menores y la comunidad. El funcionario sostuvo que OpenAI debería modificar la programación de ChatGPT y anticipó que la compañía podría enfrentar la obligación de pagar sumas millonarias en concepto de indemnización.
La demanda enumera una serie de peligros atribuidos a ChatGPT, incluyendo la presunta ayuda proporcionada a autores de tiroteos masivos, el fomento de ideas suicidas, la exposición a humillaciones públicas, la adicción de menores a una herramienta sin supervisión y la pérdida de habilidades de pensamiento crítico entre los usuarios jóvenes. El documento legal enfatiza que la versión gratuita de ChatGPT carece de mecanismos efectivos de control de acceso o verificación de edad, lo que permitiría a niños y adolescentes utilizar el sistema sin restricciones.
Además, se denuncia que OpenAI no exige que las cuentas de los menores estén vinculadas con las de sus padres o tutores y que, incluso cuando existe esa vinculación, la información que reciben los adultos es limitada. Por ejemplo, la empresa solo notifica a los padres sobre contenido preocupante en situaciones muy específicas y nunca otorga acceso a la información proporcionada por el niño a través de la plataforma.
El inicio de esta demanda civil se basa en la investigación penal abierta por el fiscal Uthmeier en abril, orientada a determinar si OpenAI podría ser penalmente responsable por un tiroteo masivo ocurrido en la Universidad Estatal de Florida el año anterior. Según las autoridades, el presunto responsable del ataque mantuvo conversaciones extensas con ChatGPT los días previos al suceso, en las que habría recibido información sobre tiroteos masivos en esa universidad y consejos sobre el uso de armas.
En respuesta a los señalamientos, un portavoz de OpenAI declaró en abril que el tiroteo representó una tragedia, pero que ChatGPT no puede ser considerado responsable del crimen. Según la compañía, el sistema proporcionó respuestas basadas en información de dominio público disponible en internet y en ningún momento alentó ni promovió actividades ilegales o perjudiciales. OpenAI sostiene que su herramienta se limita a ofrecer datos fácticos y que la responsabilidad por los delitos cometidos recae en los individuos involucrados.
El fiscal Uthmeier expresó su deseo de que otros estados se unan a la iniciativa de Florida. Si esto ocurre, podría generarse un movimiento a nivel nacional orientado a exigir mayores controles y responsabilidades a las empresas que desarrollan sistemas de inteligencia artificial, especialmente en lo relativo a la protección de los menores.