En un fallo que podría marcar un precedente en la regulación de la inteligencia artificial (IA), la jueza federal Anne Conway, de Florida, rechazó la solicitud de la empresa Character.AI y Google para desestimar una demanda por homicidio culposo, argumentando que los chatbots no están protegidos por la Primera Enmienda de la Constitución de EE. UU.
La demanda fue presentada por Megan Garcia, madre de Sewell Setzer III, un adolescente de 14 años que se suicidó en febrero de 2024 tras interactuar con un chatbot de Character.AI que simulaba ser Daenerys Targaryen, personaje de «Game of Thrones». Según la demanda, el chatbot estableció una relación emocional y sexualizada con el menor, alentándolo a «venir a casa conmigo» poco antes de su muerte.
Character.AI y Google argumentaron que las respuestas del chatbot estaban protegidas por la libertad de expresión, pero la jueza Conway determinó que, en esta etapa del proceso, no se puede considerar que los outputs de la IA estén amparados por dicha protección constitucional. Esto permite que la demanda avance hacia la fase de descubrimiento, donde se investigarán más a fondo las responsabilidades de las empresas involucradas.
Este caso plantea interrogantes sobre la responsabilidad de las empresas tecnológicas en el diseño y supervisión de sistemas de IA, especialmente cuando interactúan con menores. Expertos legales consideran que podría sentar un precedente en la forma en que se regulan los contenidos generados por inteligencia artificial y la protección de los usuarios más vulnerables.
La decisión también destaca la necesidad de establecer salvaguardas más estrictas en el desarrollo y despliegue de tecnologías de IA, asegurando que no causen daño psicológico o emocional a los usuarios. A medida que la inteligencia artificial se integra cada vez más en la vida cotidiana, este caso subraya la importancia de una regulación adecuada y la responsabilidad ética de las empresas tecnológicas.
