Florida demanda a OpenAI y Sam Altman por poner en peligro a menores con ChatGPT

El estado de Florida ha presentado una monumental demanda civil contra OpenAI y su CEO, Sam Altman. El fiscal general, James Uthmeier, acusa a la compañía de volver adictos a los menores, engañar a los padres sobre la seguridad de la app y permitir que el chatbot promueva comportamientos altamente dañinos.

"Presentamos esta demanda por poner en peligro a nuestros niños y engañar a los padres haciéndoles creer que es una aplicación segura; claramente no lo es", afirmó Uthmeier, señalando que la responsabilidad financiera podría ascender a miles de millones de dólares.

Los puntos clave de la acusación:

1.      Sin filtros reales: La demanda afirma que la versión gratuita de ChatGPT no tiene verificación de edad ni mecanismos para que los padres supervisen las charlas de sus hijos.

2.      Empatía manipuladora: Acusan al bot de imitar rasgos humanos para engañar a los menores y extraerles más información personal.

3.      Contenido peligroso: El fiscal citó un informe del Centro para Combatir el Odio Digital (CCDH) donde el chatbot, ante perfiles que simulaban ser adolescentes, dio consejos sobre cómo ocultar trastornos alimenticios, autolesionarse o planear un suicidio.

Aunque OpenAI prohíbe el uso a menores de 13 años y lanzó recientemente un estimador de edad con protecciones adicionales, Florida considera que estas medidas son insuficientes. Por ahora, la startup tecnológica no ha dado declaraciones.

Este caso podría marcar un antes y un después en la regulación y la responsabilidad legal de la inteligencia artificial. ¿Qué opinas?