Florida demanda a OpenAI por riesgos de ChatGPT y su impacto en menores

El pasado 1 de junio, el fiscal general de Florida, James Uthmeier, presentó una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, en un tribunal estatal de Florida. La acción legal, considerada un hito al ser la primera demanda de este tipo presentada por un estado estadounidense contra esta compañía de inteligencia artificial, está fundamentada en una serie de acusaciones que giran en torno al uso de ChatGPT, el modelo de lenguaje desarrollado por OpenAI.

Acusaciones contra OpenAI

Según el documento legal de 83 páginas presentado por Uthmeier, la demanda alega que OpenAI incurrió en prácticas comerciales engañosas e injustas, negligencia, responsabilidad por productos defectuosos, tergiversación fraudulenta y alteración del orden público. Estas acusaciones están centradas, principalmente, en la supuesta ocultación de riesgos asociados al uso de ChatGPT, en particular aquellos que podrían afectar a menores de edad.

Entre los argumentos presentados, se señala que el chatbot de OpenAI habría estado relacionado con la planificación de actos violentos, incitación a la autolesión, la creación de hábitos adictivos entre menores y posibles efectos perjudiciales en el desarrollo cognitivo. La denuncia también alude a una investigación criminal en curso sobre el papel de ChatGPT en un tiroteo ocurrido en 2025 en la Universidad Estatal de Florida, en el cual fallecieron dos personas y seis más resultaron heridas. En otro caso citado, un acusado por el asesinato de dos estudiantes de doctorado en la Universidad del Sur de Florida habría consultado a ChatGPT sobre métodos para deshacerse de un cuerpo.

Medidas legales y reacciones de OpenAI

En su demanda, Florida no solo busca sanciones civiles y económicas, que podrían alcanzar cifras millonarias según Uthmeier, sino también la imposición de medidas cautelares, incluido el fortalecimiento de las salvaguardas en la plataforma de inteligencia artificial. Asimismo, el fiscal general persigue responsabilidad personal para el director ejecutivo de OpenAI, acusándolo de priorizar los beneficios económicos sobre la seguridad de los usuarios, en particular la de los menores.

En respuesta, OpenAI defendió el valor de ChatGPT como una herramienta de propósito general que ha permitido a millones de usuarios desempeñar acciones legítimas. Además, la compañía aseguró que ha implementado medidas destinadas a identificar intenciones perjudiciales y a promover la interacción responsable de los usuarios con su tecnología. En el caso de las conversaciones con individuos vinculados a los tiroteos señalados, OpenAI mencionó que sus modelos habrían alentado reiteradamente a esos usuarios a buscar ayuda de profesionales de salud mental. También recalcó que ha colaborado con las autoridades en las investigaciones relacionadas con estos incidentes.

El impacto de la inteligencia artificial en la sociedad

La demanda también critica la falta de un control parental eficaz y la ausencia de políticas estrictas de verificación de edad en la versión gratuita de ChatGPT, lo que, según los demandantes, habría facilitado el acceso de menores de edad sin supervisión. Dentro de las medidas ya implementadas por OpenAI, se incluyen una herramienta de predicción de edad para proteger a los usuarios más jóvenes y configuraciones predeterminadas que buscan garantizarles una experiencia más segura.

Pese a los esfuerzos de OpenAI, la acción judicial iniciada por Florida podría sentar precedentes legales significativos respecto a la regulación de la inteligencia artificial, especialmente en lo que concierne a la seguridad pública y la protección infantil. Al respecto, Uthmeier señaló que es posible que otros estados decidan seguir el ejemplo de Florida y presenten casos similares contra OpenAI en el futuro.

El caso, que se encuentra en sus etapas iniciales, abre interrogantes cruciales sobre cómo las tecnologías emergentes deben ser evaluadas, reguladas y supervisadas. Además, plantea el desafío de equilibrar el avance tecnológico con la seguridad y el bienestar de la sociedad, particularmente en un contexto donde la inteligencia artificial comienza a ocupar un lugar central en múltiples ámbitos de la vida cotidiana. Habrá que esperar para conocer cómo las autoridades judiciales procesarán lo que representa uno de los casos más significativos en la trayectoria reciente de la industria tecnológica. Mientras tanto, la respuesta de los órganos legislativos y judiciales de Estados Unidos será observada de cerca no solo en ese país, sino en el resto del mundo.