[Bifurcation] biais cognitif : attendre une congruence entre discours et expression émotionnelle

[Liet Kynes]

Il y a aussi la pression du monde du travail, il y a de plus en plus de personnes (type patients) prêtes à aller voir du côté de telles pratiques, c'est un phénomène global.

Dans le monde du travail, il y a des trucs marrants comme ce stage que j'ai suivi (faire face à de sitations agressives ou dans le genre, je me rappelle pas trop), à un moment donné je me suis retrouvé debout bras écartés et yeux fermés et je devais sentir mes pieds prendre racine dans le sol.. le truc était de se replanter au bon endroit il me semble, bon c'est pas faux il arrive que l'on soit à côté de ses pompes

Le gros danger dans ses pseudo-formations est que les diplomés se sentent compétent pour gérer des problèmes qui en réalité les dépassent.
Je vois bien un naturopathe prodiguer des conseils à une personne anorexique ou boulimique.. ou pire que ces personnes avec ces pathologies y voient une alternative à un suivi médical.
-----

[Flyingbike]

Dans le monde du travail, il y a des trucs marrants comme ce stage que j'ai suivi (faire face à de sitations agressives ou dans le genre, je me rappelle pas trop), à un moment donné je me suis retrouvé debout bras écartés et yeux fermés et je devais sentir mes pieds prendre racine dans le sol.. le truc était de se replanter au bon endroit il me semble, bon c'est pas faux il arrive que l'on soit à côté de ses pompes

Le gros danger dans ses pseudo-formations est que les diplomés se sentent compétent pour gérer des problèmes qui en réalité les dépassent.
Je vois bien un naturopathe prodiguer des conseils à une personne anorexique ou boulimique.. ou pire que ces personnes avec ces pathologies y voient une alternative à un suivi médical.

Prendre racine au travail, j'en connais qui savent faire ! Ils arrivent même à végéter jusqu'aux cheveux !

[Liet Kynes]

Prendre racine au travail, j'en connais qui savent faire ! Ils arrivent même à végéter jusqu'aux cheveux !

La bonsaïite est une maladie courante mais peu documentée

[obi76]

Dans le monde du travail, il y a des trucs marrants comme ce stage que j'ai suivi (faire face à de sitations agressives ou dans le genre, je me rappelle pas trop), à un moment donné je me suis retrouvé debout bras écartés et yeux fermés et je devais sentir mes pieds prendre racine dans le sol.. le truc était de se replanter au bon endroit il me semble, bon c'est pas faux il arrive que l'on soit à côté de ses pompes

Ouais bah même ça j'en suis revenu. Anecdote personnelle : une fois j'ai du appeler le SAMU parce qu'une proche (très âgée) a fait un malaise, je suis resté très calme (une habitude) au téléphone.A tel point qu'au bout de 10 minutes avec le SAMU j'ai du gueuler pour qu'ils envoient un SMUR pour l'embarquer à l’hôpital le plus proche (à 1H de route), parce que (je cite) "ha mais vous paraissiez tellement calme que pour moi il n'y avait pas d'urgence". Sachant que la personne en question était quand même entourée de 3 médecins et 2 pharmaciens, qui me demandaient continuellement qu'ils envoient le nécessaire.

Du coup maintenant, j'aime pas ça mais en cas d'urgence, je gueule (symboliquement) parce que sinon il ne se passera rien. Adaptation à un système tellement confronté à ceux qui hurlent au loup pour rien que ceux qui ne le font pas ne sont finalement plus prit au sérieux...

[A voir en vidéo sur Futura]

[pm42]

Il y a quelques cas documentés de crash d’avion de ligne pour cette raison, que quelqu’un soit resté poli et calme au lieu passer en mode communication pré catastrophe.

[obi76]

Il y a quelques cas documentés de crash d’avion de ligne pour cette raison, que quelqu’un soit resté poli et calme au lieu passer en mode communication pré catastrophe.

M'étonne pas (/plus)...

[Liet Kynes]

Il y a quelques cas documentés de crash d’avion de ligne pour cette raison, que quelqu’un soit resté poli et calme au lieu passer en mode communication pré catastrophe.

Et pourtant pour un pilote en situation d'urgence, il est impératif de garder l'esprit concentré sur les données y compris jusqu'au dernier moment.. mauvaise formation de la tour de contrôle.
Idem pour le samu de obi76, ils auraient du se concentrer sur les infos. Un exemple dramatique récent : https://www.youtube.com/watch?v=HfOeUM1PbEg

[pm42]

Et pourtant pour un pilote en situation d'urgence, il est impératif de garder l'esprit concentré sur les données y compris jusqu'au dernier moment.. mauvaise formation de la tour de contrôle.

A moins que tu ne saches des cas dont je parles, de l'analyse qui a été faite et des solutions mises en oeuvre, je trouve un peu étonnant que tu "saches" où était le problème.

[GBo]

C'est pas le coup du co-pilote coréen trop soumis à la position hiérarchique du pilote, expérimenté mais à l'Ouest?

[Liet Kynes]

A moins que tu ne saches des cas dont je parles, de l'analyse qui a été faite et des solutions mises en oeuvre, je trouve un peu étonnant que tu "saches" où était le problème.

J'ai compris que tu évoquais un cadre dans lequel l'absence de ton alarmiste du pilote a fait pensé que sa situation n'était pas urgente -> je souligne simplement le fait qu'un pilote en panique n'est plus vraiment aux commandes de son appareil. Tu voulais dire autre chose?

[pm42]

Tu voulais dire autre chose?

Oui et notamment que sans savoir, on ne devrait pas juger ou sauter aux conclusions.

[Liet Kynes]

Oui et notamment que sans savoir, on ne devrait pas juger ou sauter aux conclusions.

Ben dans ce cas ouvres un autre post pour expliquer ton histoire d'avions.. parceque là ce n'est pas vraiment l'objet.

[pm42]

Ben dans ce cas ouvres un autre post pour expliquer ton histoire d'avions.. parceque là ce n'est pas vraiment l'objet.

Je ne trouve pas : on parlait de charlatanisme et après évoqué l'institutionnalisé, on va d'avoir une démonstration de l'individuel du genre "je parle sans savoir", "je juge sans avoir les faits", "je balance des généralités sans expertise du sujet" suivi de "si on me prend en flagrant délit, je détourne l'attention en accusant mon contradicteur".
C'est une belle illustration.

[Liet Kynes]

Je ne trouve pas : on parlait de charlatanisme et après évoqué l'institutionnalisé, on va d'avoir une démonstration de l'individuel du genre "je parle sans savoir", "je juge sans avoir les faits", "je balance des généralités sans expertise du sujet" suivi de "si on me prend en flagrant délit, je détourne l'attention en accusant mon contradicteur".
C'est une belle illustration.

No comments.. fin du HS

[obi76]

Idem pour le samu de obi76, ils auraient du se concentrer sur les infos. Un exemple dramatique récent : https://www.youtube.com/watch?v=HfOeUM1PbEg

"ils auraient dû", en attendant ils ne l'ont pas fait, ce qui aurait pu se solder par un mort, juste parce que "vous n'aviez pas l'air"...

[Archi3]

Meme si vécu de l'intérieur, la situation a du être insupportable, il n'est même pas certain qu'ils "auraient dû" , d'un point de vue parfaitement rationnel. Le point de vue parfaitement rationnel cherche à optimiser les décisions par rapport à des informations incomplètes. Or le SAMU sait aussi qu'il y a des appels pas urgents, qui ne réclament peut etre pas une intervention, mais qui risquent en se multipliant de saturer les capacités d'intervention au détriment d'interventions sérieuses. Voir peut etre meme des sales blagues de gamins pour voir des ambulances arriver pour rien ! Si l'expérience montre que tel ou tel critère est très discriminant pour détecter ce genre d'appel , il peut être rationnel d'utiliser ce critère, avec un bénéfice risque positif (c'est la même logique au fond que celle d'administrer un vaccin en sachant qu'il y a un risque minime de réaction grave, voire de décès).

Attention donc la notion d'attitude rationnelle et irrationnelle peut etre délicate. Au cours d'un café des sciences sur les biais cognitifs, on a parlé des théories du complot, et un intervenant avait fait remarquer qu'être "paranoïaque", augmenter la probabilité d'un danger, était un caractère bénéfique à la survie d'une espèce : on a interêt à etre TROP précautionneux en cas de risque d'agression par un prédateur, et de s'enfuir au moindre bruissement suspect (ce que font les espèces sauvages justement !). Ce qu'on appelle un biais cognitif peut etre aussi la trace d'une adaptation positive à un environnement potentiellement hostile.

[obi76]

Oui, cela revient donc à ce que j'ai dit : si on garde son calme, on a moins de chances d'être secouru que si on panique / qu'on hurle. Donc quand on dit aux gens "gardez votre calme", ça ne pousse qu'à prendre plus de risque pour la fois d'après.

Comme l'a dit Liet Kynes, s'en tenir aux éléments et pas à l'attitude devrait être la base. Les questions qu'ils posent doivent les mettre rapidement sur la voie de "blague", "pas blague" ou "je me suis cassé un ongle", mais pas après 10 minutes parce que l'interlocuteur "a l'air calme".

Maintenant ils ont gagné, si je dois les rappeler un jour, je gueulerai, c'en sera vital.

C'est une fois de plus la victoire de l'idiocratie crasse, où des gens incapables de se contrôler font prendre des risques à ceux qui y arrivent. Ce nivellement par le bas me désespère.

[pm42]

Comme l'a dit Liet Kynes, s'en tenir aux éléments et pas à l'attitude devrait être la base. Les questions qu'ils posent doivent les mettre rapidement sur la voie de "blague", "pas blague" ou "je me suis cassé un ongle", mais pas après 10 minutes.

Cela se discute. Cela revient à transformer l'opérateur du Samu en une machine à poser des questions et il y aura sans doute un cas où suivre la procédure arrivera à une conclusion fausse aussi.
Là, ils se sont basé en partie sur leur expérience et ils sont tombé sur un cas de faux négatif.

Mais je doute qu'on puisse mettre en place un mécanisme quelqu'il soit qui ne donne jamais de faux négatif sauf comme dit plus haut risquer de saturer le système.
Ce qui serait intéressant, ce serait de mesurer le taux d'erreur global, de voir son évolution au fil des années, le comparer avec d'autres pays/systèmes et de ce qui a été fait pour éviter que ce genre de cas ne se reproduise sans que cela n'ait d'impact négatif ailleurs.

Là, on est dans l'anecdote traitée par la presse comme cas significatif et "faisant peur" ce qui donne des clics mais sans mise en perspective.

P.S : les cas d'avion dont je parlais sont justement intéressant parce qu'ils ont été abordés par l'industrie non pas sous l'angle de "le pilote aurait du" ou "la tour de contrôle aurait du" mais sous celui beaucoup plus fécond des modes de conversations entre personnes de cultures très différentes, par ex un pilote coréen et un contrôleur aérien new-yorkais. Même s'ils parlaient tous anglais, une part importante de l'information était perdue entre des gens très, très polis et respectueux de l'autorité d'un coté et de l'autre, des personnes efficaces mais rudes avec un fonctionnement social plus horizontal. Et on parle de professionnels très bien formés pourtant.

[Flyingbike]

Nouvelle discussion créée depuis charlatanisme instituionnalisé

[obi76]

Cela se discute. Cela revient à transformer l'opérateur du Samu en une machine à poser des questions et il y aura sans doute un cas où suivre la procédure arrivera à une conclusion fausse aussi.
Là, ils se sont basé en partie sur leur expérience et ils sont tombé sur un cas de faux négatif.

Mais je doute qu'on puisse mettre en place un mécanisme quelqu'il soit qui ne donne jamais de faux négatif sauf comme dit plus haut risquer de saturer le système.

Je ne pense pas que mettre autant de temps à tirer une conclusion (qu'elle soit bonne ou mauvaise) aide à le désaturer, le système... En tous cas ils ont déjà une procédure à suivre et des questions type à poser pour estimer le degré d'urgence (pour ça qu'ils redirigent l'appel dans des services différents selon les cas).

Après oui, je ne doute pas que c'est assez exceptionnel, mais bon, la prochaine fois je maximiserai mes chances, et désolé d'avance pour l'opérateur.

[Liet Kynes]

Je ne pense pas que mettre autant de temps à tirer une conclusion (qu'elle soit bonne ou mauvaise) aide à le désaturer, le système... En tous cas ils ont déjà une procédure à suivre et des questions type à poser pour estimer le degré d'urgence (pour ça qu'ils redirigent l'appel dans des services différents selon les cas).

Après oui, je ne doute pas que c'est assez exceptionnel, mais bon, la prochaine fois je maximiserai mes chances, et désolé d'avance pour l'opérateur.

Le truc c'est que dans ce domaine comme bien d'autres, il y a une démarche d'amélioration continue ce qui fait que si tu communiques selon ton expérience précédente tu risques de ne pas donner les informations adéquates..

Les services d'urgence donnent leurs attendus pour que chaque appelant puisse être efficace. https://www.chu-toulouse.fr/-quand-a...-samu-#art6317

Chercher à deviner, pour l'ARM, si l'appelant joue avec le système est un risque majeur de basculer dans des biais car si il existe des méthodes de questionnement qui permettent d'affinner la qualité de l'information donnée (reformulation et recherche de contradictions abérantes) c'est aussi facteur de biais avec des ARM qui se baseraient sur leur "expérience" d'enqueteur -> biais de génralisation.

Cela fait l'objet de travaux https://www.has-sante.fr/upload/docs...alite_samu.pdf

[pm42]

Je ne pense pas que mettre autant de temps à tirer une conclusion (qu'elle soit bonne ou mauvaise) aide à le désaturer, le système... En tous cas ils ont déjà une procédure à suivre et des questions type à poser pour estimer le degré d'urgence (pour ça qu'ils redirigent l'appel dans des services différents selon les cas).

Oui, je parlais plus de façon générale que de ce cas précis.

[obi76]

Chercher à deviner, pour l'ARM, si l'appelant joue avec le système est un risque majeur de basculer dans des biais car si il existe des méthodes de questionnement qui permettent d'affinner la qualité de l'information donnée (reformulation et recherche de contradictions abérantes) c'est aussi facteur de biais avec des ARM qui se baseraient sur leur "expérience" d'enqueteur -> biais de génralisation.

Je ne parlais pas de manipuler ou donner de fausses info, juste de gueuler...

Par contre, quand je vois ça, comment dire... :

Capture d’écran du 2021-08-29 12-56-55.png

Capture d’écran du 2021-08-29 13-01-20.png

L’appréciation du contexte.
Certains contextes doivent alerter et éventuellement conduire à l’envoi d’un effecteur : situation de précarité
du patient, difficultés de communication, répétition des appels, impatience ou panique du requérant, non
adhésion à la conduite proposée ou difficulté de compréhension des consignes, personne seule, entourage
apparaissant déficient, incertitude sur la capacité du patient à renouveler son appel en cas de besoin.

Cela induira donc un plus grand nombre de non prise en charge de gens qui ne paniquent pas que de gens qui paniquent... donc ça va bien dans le sens que je craignais.

Pour le reste je suis en train de lire, très intéressant, merci

[Liet Kynes]

Par contre, quand je vois ça, comment dire... :

Pièce jointe 445085

Pièce jointe 445086

Cela induira donc un plus grand nombre de non prise en charge de gens qui ne paniquent pas que de gens qui paniquent... donc ça va bien dans le sens que je craignais.

Pour le reste je suis en train de lire, très intéressant, merci

Tu penses que l'ia fonctionne selon une sorte de tri du contenu significatif qu'un appelant "moyen" pourait emmettre ? = si t'es pas bien situé dans la courbe de GAUSS tu meurs
Les spécialistes nous diront peut-être que l'apprentissage des IA permet d'éviter ce phénomène?

[obi76]

Tu penses que l'ia fonctionne selon une sorte de tri du contenu significatif qu'un appelant "moyen" pourait emmettre ? = si t'es pas bien situé dans la courbe de GAUSS tu meurs

En tous cas tu aurais plus de chances de mal être pris en charge que si tu es bien au sommet.

[pm42]

Les spécialistes nous diront peut-être que l'apprentissage des IA permet d'éviter ce phénomène?

Il est très difficile d'être précis parce que tout dépend du projet, de la qualité de la mise en oeuvre, etc.
On peut en effet faire en sorte que l'apprentissage d'une IA diminue le risque de faux négatif : on ne se retrouve alors pas avec une courbe de gauss du tout.
Mais on peut aussi s'en servir intelligemment, pour uniquement diminuer la charge des humains sans les sortir de la boucle et avoir "le meilleur des 2 mondes".

J'ai tendance à être prudent parce que même si je comprends qu'on puisse se méfier, les progrès actuels des IA et leur capacité à ne pas fonctionner comme les algos classiques mais à être capable de détecter des choses assez fines fait qu'il est possible qu'à terme, elles soient statistiquement meilleures que la plupart des humains pour ce genre de tâche, au moins en 1ère classification avec l'avantage de la disponibilité, l'absence de fatigue, etc.

[Liet Kynes]

En tous cas tu aurais plus de chances de mal être pris en charge que si tu es bien au sommet.

Oui c'est l'impression que cela donne mais l'IA c'est un truc bien fichu, il fauderait savoir quelles sont les raisons de ses echecs pour en juger.
Pour le coup on passe du sujet de l'expression emotionelle percue par humain comme biais possible à l'interprétation de l'information à celle de l'information interprétée par une machine comme non signifiante.

L'IA dans son apprentissage va conclure sur deux axes (urgence/pas urgence) au final mais cela ne veut pas dire que les conclusions "pas urgence" soit stréotypées, il se peut même qu'au travers de son apprentissage l'IA conclu "urgence" dans la majorité des appels sans expression emotionelle; ces problèmes doivent être connus des développeurs de ces systèmes.

[Merlin95]

Il est très difficile d'être précis parce que tout dépend du projet, de la qualité de la mise en oeuvre, etc.
On peut en effet faire en sorte que l'apprentissage d'une IA diminue le risque de faux négatif : on ne se retrouve alors pas avec une courbe de gauss du tout.
Mais on peut aussi s'en servir intelligemment, pour uniquement diminuer la charge des humains sans les sortir de la boucle et avoir "le meilleur des 2 mondes".

J'ai tendance à être prudent parce que même si je comprends qu'on puisse se méfier, les progrès actuels des IA et leur capacité à ne pas fonctionner comme les algos classiques mais à être capable de détecter des choses assez fines fait qu'il est possible qu'à terme, elles soient statistiquement meilleures que la plupart des humains pour ce genre de tâche, au moins en 1ère classification avec l'avantage de la disponibilité, l'absence de fatigue, etc.

Pourquoi pas mais le point est effectivement de mesurer cette "efficacité" ? L'IA sera-t-elle imposée sans vraie garantie, à l'intuition ou pire guidée par des enjeux idéologiques ou économiques ou des tests sérieux seront-ils effectués ?

(Et je vous déjà des petits malins prés à s'amuser avec l'IA pour voir s'ils arrivent à la mettre en défaut c'est plus marrant qu'avec un humain).

[pm42]

Pourquoi pas mais le point est effectivement de mesurer cette "efficacité" ?

On sait très bien faire.

L'IA sera-t-elle imposée sans vraie garantie, à l'intuition ou pire guidée par des enjeux idéologiques ou économiques ou des tests sérieux seront-ils effectués ?

Vu qu'on ne peut pas faire une IA sans ça, cela n'est pratiquement jamais arrivé à ma connaissance et la remarque me semble plus relever d'une vision du monde personnelle que d'un problème réel.

(Et je vous déjà des petits malins prés à s'amuser avec l'IA pour voir s'ils arrivent à la mettre en défaut c'est plus marrant qu'avec un humain).

C'est beaucoup plus compliqué à faire avec une IA spécialisée qu'avec un chatbot et dans le cas des appels aux services d'urgence, ceux qui jouent à ça risquent quelque chose contrairement aux trolls du Net.

[Merlin95]

Je ne sais pas j'en suis resté au bon vieux "rien ne remplace la main de l'homme" mais je peux me tromper par méconnaissance de l'IA et un brin de pessimisme.