Entités
Voir toutes les entitésStatistiques d'incidents
Classifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
545
Special Interest Intangible Harm
yes
Classifications de taxonomie CSETv1_Annotator-2
Détails de la taxonomieIncident Number
545
Special Interest Intangible Harm
yes
Notes (AI special interest intangible harm)
5.2: Tessa was originally a closed, rules-based system (based on decision trees). Cass AI later implemented an AI component without the knowledge or consent of the co-developers.
Date of Incident Year
2023
Rapports d'incidents
Chronologie du rapport
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Les dirigeants de la National Eating Disorders Association (NEDA) ont décidé de remplacer les travailleurs de la hotline par un chatbot nommé Tessa quatre jours après la syndicalisation des travailleurs.
NEDA, la plus grande organisation à …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorder Association (NEDA) a mis hors ligne son chatbot appelé Tessa, deux jours avant qu'il ne remplace les associés humains qui géraient la hotline de l'organisation.
Après que les travailleurs de NEDA aient décidé de …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Après s'être syndiqués, le personnel de la ligne téléphonique d'assistance de la National Eating Disorder Association (NEDA) a été brusquement licencié en mars et remplacé par un chatbot. Hier, de nombreux membres de la plus grande communau…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorder Association (Neda) a supprimé un chatbot d'intelligence artificielle, "Tessa", après avoir signalé que le chatbot fournissait des conseils préjudiciables.
Neda a fait l'objet de critiques au cours des derniers mo…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Moins d'une semaine après avoir annoncé son intention de remplacer son personnel d'assistance téléphonique par un I.A. chatbot nommé Tessa, la National Eating Disorder Association (NEDA) a mis la technologie hors ligne.
"Il a été porté à no…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Les chatbots IA ne sont pas très bons pour offrir un soutien émotionnel étant - vous savez - [pas un humain] (https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688), et - on ne le dira jamais assez - [pas vra…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Depuis plus de 20 ans, la National Eating Disorders Association (NEDA) exploite une ligne téléphonique et une plateforme en ligne pour les personnes cherchant de l'aide pour l'anorexie, la boulimie et d'autres troubles de l'alimentation. L'…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorders Association (NEDA) a retiré son chatbot Tessa pour avoir donné de mauvais conseils aux gens.
Dans un message désormais viral, Sharon Maxwell a déclaré que les conseils de Tessa pour se remettre en toute sécurité…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La plus grande organisation à but non lucratif pour les troubles de l'alimentation du pays remplace le personnel et les bénévoles par une solution en ligne basée sur l'IA, et le chatbot a déjà été fermé. Une demi-douzaine d'employés humains…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Chatbot, vous êtes viré.
La National Eating Disorders Association a désactivé son chatbot, nommé Tessa, en raison des réponses « nuisibles » qu'il donnait aux gens.
"Tout ce que Tessa a suggéré était des choses qui ont conduit au développem…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Dans cette édition d'IA qui se retourne contre vous : aujourd'hui, un chatbot était censé remplacer officiellement l'une des plus grandes lignes d'assistance téléphonique sur les troubles de l'alimentation jusqu'à ce qu'il soit mis hors lig…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une ligne d'assistance nationale a abandonné un chatbot d'intelligence artificielle nommé Tessa après que les conseils qu'il a donnés aient aggravé la situation des personnes souffrant de troubles de l'alimentation.
La National Eating Disor…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un chatbot conçu pour aider les personnes cherchant de l'aide pour des troubles de l'alimentation et des problèmes corporels a été mis hors ligne après il a fourni à certains utilisateurs des conseils diététiques.
Le bot, nommé Tessa, fonct…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Contrairement aux chatbots comme ChatGPT, Tessa n'a pas été construit à l'aide de technologies d'IA génératives. Il est programmé pour offrir un programme interactif appelé Body Positive, un outil basé sur la thérapie cognitivo-comportement…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un chatbot alimenté par l'IA qui a remplacé les employés d'une hotline pour les troubles de l'alimentation a été fermé après avoir fourni des conseils préjudiciables aux personnes cherchant de l'aide.
La saga a commencé plus tôt cette année…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorders Association, une organisation à but non lucratif qui soutient les personnes touchées par des troubles de l'alimentation, a déclaré qu'elle avait désactivé son chatbot de bien-être après que deux utilisateurs aie…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une organisation de prévention des troubles de l'alimentation a déclaré qu'elle devait mettre hors ligne son chatbot alimenté par l'IA après que certains se soient plaints que l'outil avait commencé à offrir des conseils « nocifs » et « non…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorders Association a désactivé le chatbot qui a remplacé sa ligne d'assistance téléphonique gérée par le personnel et les bénévoles après que deux utilisateurs ont signalé avoir reçu des conseils préjudiciables.
Plus t…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorders Association a désactivé son chatbot après que l'association a déclaré qu'il "aurait pu donner des informations nuisibles et sans rapport avec le programme".
La semaine dernière, il a été signalé que l'associatio…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorders Association a mis hors ligne un chatbot d'IA pour avoir utilisé un langage "off-script" et donné des conseils de perte de poids aux personnes souffrant de troubles de l'alimentation.
La situation qui afflige Tes…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorder Association (NEDA) a récemment fait l'objet de critiques et a été obligée de supprimer son chatbot Tessa en raison des craintes qu'il fournisse des informations nuisibles et non pertinentes, comme indiqué dans un…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Après avoir licencié tout son personnel humain et l'avoir remplacé par un chatbot, [Vice rapporte](https://www.vice.com/en /article/qjvk97/eating-disorder-helpline-disables-chatbot-for-harmful-responses-after-firing-human-staff) qu'une lign…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Les organisations qui cherchent à compléter ou même à remplacer certains employés humains du service client voudront peut-être d'abord revoir le récit édifiant de la National Eating Disorder Association (NEDA) qui s'est déroulé cette semain…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un chatbot d'intelligence artificielle destiné à aider les personnes atteintes de troubles de l'alimentation a été supprimé après rapporte qu'il avait commencé à donner des conseils sur les régimes nocifs.
Les États-Unis [National Eating Di…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une organisation à but non lucratif américaine a supprimé son chatbot IA après qu'une publication virale sur les réseaux sociaux ait révélé qu'elle offrait des conseils préjudiciables au lieu d'aider les gens.
La National Eating Disorders A…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une organisation à but non lucratif américaine s'est tournée vers l'intelligence artificielle pour doter en personnel sa ligne d'assistance troubles de l'alimentation le mois dernier, cependant, l'expérience s'est retournée contre lui lorsq…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorders Association (NEDA) a suspendu un chatbot d'IA après avoir dispensé des conseils potentiellement préjudiciables aux personnes cherchant de l'aide pour leurs troubles de l'alimentation.
Le chatbot, nommé Tessa, a …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Chatbot IA dans les lignes d'assistance
Le chatbot défectueux appelé Tessa bot fonctionnait dans le cadre d'une ligne d'assistance téléphonique pour les troubles de l'alimentation destinée à aider les utilisateurs souffrant de détresse émot…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'utilisation d'un chatbot par une organisation à but non lucratif a été interdite car elle offrait des conseils potentiellement dangereux à ceux qui cherchaient un traitement pour des troubles de l'alimentation.
Il a été découvert que Tess…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Après avoir suscité l'indignation, la National Eating Disorder Association est revenue sur sa décision de remplacer les membres de son personnel d'assistance téléphonique par un chatbot IA nommé Tessa.
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'essor de l'IA a introduit un nombre croissant de dupes humains, de la génération de modèles divers à la création de petits amis qui ne 't age or cheat. Bien sûr, datez votre ordinateur, mais peut-être faudrait-il réfléchir à deux fois ava…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La National Eating Disorder Association (NEDA) a été critiquée et a retiré son [IA chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa après que des inquiétudes ont surgi qu…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Le 31 mars, la National Eating Disorders Association (NEDA), la plus grande organisation à but non lucratif dédiée aux troubles de l'alimentation, a décidé de remplacer ses associés humains par le chatbot d'intelligence artificielle (IA) Te…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
La ligne d'assistance téléphonique de la National Eating Disorders Association (NEDA) a désactivé son tout nouveau chatbot, appelé Tessa, après deux utilisateurs d'Instagram ont posté que le chatbot recommandait de limiter les calories, de …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une organisation américaine qui soutient les personnes souffrant de troubles de l'alimentation a suspendu l'utilisation d'un chatbot après avoir signalé qu'il partageait des conseils préjudiciables.
La National Eating Disorder Association (…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Désormais, le chatbot IA de la ligne d'assistance téléphonique pour les troubles alimentaires Tessa, ne répondra plus à l'appel de personne après son erreur nuisible. La National Eating Disorder Association a fermé le chatbot AI après avoir…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un [chatbot](https://go.redirectingat.com?id=74679X1524629&sref=https%3A%2F%2Fwww.buzzfeed.com%2Ftracewilliamcowen%2Feating-disorder-hotline-chatbot-shut-down-harmful-advice&url=https %3A%2F%2Fcomplex.com%2Ftag%2Ftech&xcust=7428125%7CBF-VER…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Après 24 ans de service, la National Eating Disorder Association (NEDA) a annoncé la fermeture de sa ligne d'assistance téléphonique basée sur les bénévoles. Les visiteurs du site Web de l'organisation auraient deux options : explorer leur …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Je crois fermement que, comme tous les films de science-fiction l'ont prédit, l'IA est désastreuse pour l'humanité. Même s'il ne s'allume pas directement contre nous et ne commence pas à nous tuer comme M3GAN, il a certainement le pouvoir d…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Une ONG basée à New York dédiée à la prévention des troubles de l'alimentation a supprimé un chatbot d'IA suite à des informations selon lesquelles il fournirait un appareil nocif.
La National Eating Disorder Association (NEDA) est critiqué…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un chatbot d'intelligence artificielle nommé "Tessa" a été retiré par la National Eating Disorder Association (Neda) suite à des accusations selon lesquelles il donnait des conseils préjudiciables.
Après avoir licencié quatre employés qui t…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
C'est une décision qui pourrait ravir quiconque s'inquiète des effets potentiels des outils d'intelligence artificielle sur l'emploi. Comme le rapport BBC , la National Eating Disorder Association (NEDA) des États-Unis a dû supprimer son ch…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Pertinence clinique : l'IA n'est même pas près d'être prête à remplacer les humains dans le traitement de la santé mentale
- La National Eating Disorders Association (NEDA) a retiré son chatbot de sa hotline d'assistance, craignant qu'il ne …
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Un chatbot de santé mentale qui a dévié du script---donnant des conseils diététiques aux personnes cherchant de l'aide auprès d'un groupe de troubles de l'alimentation --- a été programmé avec une IA générative à l'insu du groupe.
Le bot, n…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Lorsque le Dr Ellen Fitzsimmons-Craft a dirigé un chatbot pour aider les personnes souffrant de troubles de l'alimentation, elle n'aurait jamais cru entendre que le produit avait l'effet inverse.
"Nous sommes des scientifiques et nous ne vo…
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
L'idée derrière un projet de chatbot financé par la National Eating Disorders Association était que la technologie pourrait être libérée pour aider les personnes à la recherche de conseils sur les comportements alimentaires, disponibles 24 …
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents