Skip to main content
  1. Casa
  2. Tendencias

Fuerte demanda contra Character AI por muerte de adolescente obesionado con chatbots

demanda character ai muerte adolescente obsesionado chatbots christin hume mfb1b1s4smc unsplash
Imagen utilizada con permiso del titular de los derechos de autor

Una situación controvertida se está viviendo en Estados Unidos en materia de regulación de IA, luego de que una familia decidiera demandar a Character.AI, sus fundadores Noam Shazeer y Daniel De Freitas, y a Google a raíz de la muerte de un adolescente, alegando muerte por negligencia, prácticas comerciales engañosas y responsabilidad por productos defectuosos.

Presentada por la madre de la adolescente, Megan García, afirma que la plataforma para chatbots de IA personalizados era «irrazonablemente peligrosa» y carecía de barandillas de seguridad mientras se comercializaba para niños.

Recommended Videos

Qué pasó con el adolescente

Como se describe en la demanda, Sewell Setzer III, de 14 años, comenzó a usar Character.AI el año pasado, interactuando con chatbots inspirados en personajes de Game of Thrones, incluida Daenerys Targaryen. Setzer, que chateó con los bots continuamente en los meses previos a su muerte, se suicidó el 28 de febrero de 2024, «segundos» después de su última interacción con el bot.

Las acusaciones incluyen que el sitio «antropomorfiza» a los personajes de IA y que los chatbots de la plataforma ofrecen «psicoterapia sin licencia». Character.AI alberga chatbots centrados en la salud mental como «Therapist» y «Are You Feeling Lonely», con los que Setzer interactuó.

El sitio web y la aplicación móvil de Character.AI tienen cientos de chatbots de IA personalizados, muchos de ellos inspirados en personajes populares de programas de televisión, películas y videojuegos.

La respuesta de Character AI

Character.AI ha anunciado varios cambios en la plataforma, y la jefa de comunicaciones, Chelsea Harrison, dijo en un correo electrónico a The Verge: «Estamos desconsolados por la trágica pérdida de uno de nuestros s y queremos expresar nuestras más profundas condolencias a la familia».

«Como empresa, nos tomamos muy en serio la seguridad de nuestros s, y nuestro equipo de Confianza y Seguridad ha implementado numerosas medidas de seguridad nuevas en los últimos seis meses, incluida una ventana emergente que dirige a los s a la Línea Nacional de Prevención del Suicidio que se activa por términos de autolesión o ideación suicida», dijo Harrison.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
La IA Antrophic acaba de fichar al hombre más poderoso de Netflix
servicios streaming versus cable reed hastings netflix 2018 720x720

La IA como bien sabemos está lejos de ser meramente algo altruista por el conocimiento de la humanidad, ya que las ganancias monetarias son por supuesto parte del engranaje de las compañías que están en este juego. Por eso, la movida reciente de Antrophic de fichar a quizás la persona más poderosa de Netflix, habla un poco de eso.

Antrophic, que fue fundada por un ala disidente de OpenAI tiene a su agente Claude como uno de los competidores más ágiles del mercado de la IA y ahora necesita de un pez gordo para salir más a flote.

Leer más
Amazon España asegura que sus sistemas son seguros tras denuncia de hackeo masivo
Amazon compras ofertas

Una información preocupante es la que se filtró en las últimas horas en las redes sociales, ya que en X.com se dio a conocer un hackeo masivo de más de 5,1 millones de cuentas de Amazon España, con datos de clientes de la compañía, entre ellos DNI, nombre y apellidos, número de móvil, dirección y código postal, ciudad y correo electrónico.

La cuenta de X 'HackManac', que rastrea hackeos en tiempo real, ha sido una de las primeras en hacerse eco en X e informó que un , bajo el nombre de 'vaquilla' está vendiendo las cuentas en la dark web.

Leer más
Meta es firme candidato para hacer la tecnología del ejército de EE.UU.
Soldado de EE.UU. de juguete

Una importante alianza es la que Meta ha firmado con la compañía de defensa de Palmer Luckey, Anduril Industries, todo para ganar una licitación para construir vestibles de alta tecnología para el Ejército de Estados Unidos, según informa el Wall Street Journal. 

El contrato tiene un valor de alrededor de 100 millones de dólares, aunque aún no se ha adjudicado.

Leer más