Impact de l'IA sur la vie privée

[invite73192618]

Bonjour,

Je suis intéressé à connaitre et faire connaitre les attitudes face à l'IA et attitude face à la vie privée, d'ou le présent sondage croisant deux questions: Est-ce que vous pensez que l'IA présente plus d'avantages que d'inconvénients? Comment devrions-nous gérer les données individuelles, qu'elles proviennent du privé, des institutions ou de la recherche, incluant le domaine médical?

Si vous le souhaitez vous pouvez également partager un commentaire avec votre point de vue, la réflexion qui sous-tend vos réponses, votre tranche d’âge, votre niveau d'expertise (est-ce que vous vous y connaissez plus sur ces sujets que la moyenne de votre pays? que la moyenne de vos collègues? que la moyenne de votre famille?), l'historique d'exposition (Est-ce que c'est la première fois que vous réfléchissez à ces questions? Avez-vous lu le texte d'introduction et les commentaires avant ou après de faire le sondage? Est-ce qu'il y a des messages de réponse qui vous ont marqué?), ainsi que n'importe quel commentaire sur mon texte ci-dessous. Pour des discussions inspirées de mais pas directement en lien, ou pour discuter le contenu de mon texte ou d'une des réponses, SVP poster une nouvelle discussion (si le nombre de discussion en vaut la peine, je demanderais dans quelques temps à ce que les références des discussions liées soient ajoutées à la fin de ce message). Vous pouvez également enregistrer une seconde réponse en commentaires, si possible en indiquant ce qui vous a fait changer d'avis.

PS pour modo: si la discussion vous semble trop sur l'éthique je comprendrais que cela doive aller à la poubelle. Si à l'inverse vous jugez la discussion assez intéressante pour être épinglée quelques temps, c'est certain que cela me ferait plaisir. A vous de voir selon que vous pensez que cela ajoute ou non du contenu de qualité.

PPS: sondage purement amical, aucun projet de recherche en cours

*** texte introductif

Les progrès en IA nous apprennent une chose pertinente à ces questions: il est absolument certain que de rendre publique toutes les données aboutirait rapidement, et pendant longtemps, à sauver des vies, améliorer la qualité de vie de nombreuses personnes en situation de handicap ou en rémission de blessures physiques ou psychologiques ou simplement vieillissante, à une amélioration des politiques publiques, à une amélioration de la qualité de nos systèmes éducatifs, et possiblement à une meilleure croissance socioéconomique. Dans cette optique, une option est de souhaiter le plus grand partage publique possible, avec une possibilité individuelle de choisir l'anonymat ou le pseudonymat mais une obligation pour toutes les institutions de fournir publiquement leurs données et celles qui sont produites dans le cadre de leurs activités. Sous la forme d'une loi, cette obligation aurait des impacts majeurs sur les sociétés qui l'adopteraient et la feraient respecter. Actuellement ce n'est le cas nulle part, en particulier en ce qui concerne les données médicales et de recherche. Combien d'enfants sans support adéquat faute de recherches de solutions comportementales plutôt que médicamenteuses au TDAH? Combien d'anciens dont personne n'est au courant qu'ils ont un besoin vital de parler quelques minutes à un professionnel de la santé? Ce sont des problèmes pour lesquels l'IA pourrait être capable de trouver des solutions si les données pertinentes étaient accessibles librement. Qu'est-ce qu'on attend au juste?

Les progrès en crypto nous apprennent une seconde chose: il est extraordinairement difficile de protéger l'anonymat d'une personne dont les données sont publiquement accessibles. Dans wikipedia on peut trouver des phrases comme

L’anonymat réel requiert une non-traçabilité, de sorte que la vérification d'un message d'un détenteur de pseudonyme ne fournisse aucune information sur son identité.

C'est malheureusement faux. L'anonymat réel est que vous ne fournissiez aucune information exploitable peu importe qu'elle soit directement reliée à l'identité ou non. Si vous fournissez des données, il est presque certain qu'une IA pourra un jour les exploiter pour deviner votre identité. C'est facile si on voit votre visage (d'ou la récente interdiction des logiciels de reconnaissance faciale en Californie). C'est possiblement difficile quand on n'a que des informations non nominatives, mais ce n'est pas une protection absolue. Cette protection décroit par ailleurs rapidement avec le nombre de bases de données disponibles. Pour illustrer considérez l'exemple ci-dessous:

Imaginez un hôpital qui rend publique toute son information sauf les noms, adresse etc. Imaginez que l'horaire d'admission est présent ou que l'information est automatiquement rafraichie tous les jours. On pourrait croiser l'information avec une webcam qui a une bonne vue sur la rue menant aux admissions, et ainsi être en mesure de déterminer que tel ou tel sénateur (dont la voiture a une poque sur l'aile gauche suite à un micro-accident il y a quelques semaines) est présentement hospitalisé pour un problème rénal dont l'issue généralement fatale à trois mois ce qui compromet le vote sur le bill #87 sans lequel compagnie#357128 devra verser 50 cents par action à tel plaignant. Sell compagnie#357128. Parti PRD +3. Buy PRD_future. PIB_future -0,0034. Keep.

La dernière ligne fait référence aux logiciels de prédictions boursières, qui commencent à utiliser l'information journalière pour améliorer l'analyse technique en vue de (améliorer la marge de bénéfice des banques/diminuer le cout de gestion des fonds de retraite).

Dans cette optique, une option est de souhaiter l'interdiction de toute base de données publique permettant l'identification d'individus, par exemple actuellement les logiciels de reconnaissance facial dans certains lieux publiques en Californie, avec fardeau de la preuve sur les entreprises de démontrer la sécurité de leurs produits.

Je ne partage pas le ricanement prévisible sur les grosses compagnies qui s'en foutent tant qu'elles font du cash. Mon opinion est qu'elles sont dépassées par l'ampleur du problème et que cela fait longtemps qu'elles militent en toute sincérité pour un encadrement solide et prévisible, particulièrement dans les états ou les services de renseignement ou de police ont un pouvoir disproportionné.

Entre interdiction absolue et laissez faire absolu, il y a également une troisième option: réserver les analyses à des institutions garantissant les meilleures pratiques pour le respect de l'anonymat. Dans le meilleur des cas on réserve l'accès uniquement à des gentils chercheurs pleins de bonnes intentions et qui ont à coeur que leurs recherches bénéficient à la société toute entière. Dans le pire des cas on finit derrière une muraille invisible avec des fonctionnaires chargés de te donner des points de bon comportement si tu tonds ta pelouse et t'abstient de pensées contrerévolutionnaires. Dans l'intermédiaire les données sont accessibles à la fois à des gentils mais aussi un lot de chercheurs influençables, de personnel de recherche sous-payés avec un accès à des données monnayables, d'étudiants convaincus par la cause des données libres, et de simples idiots qui ont tous accès à des données confidentielles. Quel beau compromis.

A vous de choisir!

1- je pense que l'IA présente plus d'avantages que d'inconvénients, et que nous devrions libérer toutes les données publiques.
2- je pense que l'IA présente plus d'avantages que d'inconvénients, et que nous devrions interdire les bases de données publiques.
3- je pense que l'IA présente plus d'avantages que d'inconvénients, et que nous devrions filtrer l'accès aux données publiques.
4- je pense que l'IA présente plus d'inconvénients que d'avantages, et que nous devrions libérer toutes les données publiques.
5- je pense que l'IA présente plus d'inconvénients que d'avantages, et que nous devrions interdire les bases de données publiques.
6- je pense que l'IA présente plus d'inconvénients que d'avantages, et que nous devrions filtrer l'accès aux données publiques.
-----

[pm42]

J'hésite entre 1 et 3. Je suis conscient des risques de libérer l'accès mais la situation actuelle revient à filtrer par la situation économique souvent.

Ceci dit et comme tu le dis, garantir l'anonymat est extrêmement compliqué donc j'aurais tendance à penser qu'un accès libre devrait être compensé par des contraintes (genre déclaration un peu comme actuellement pour la CNIL) et des sanctions en cas d'abus ou de grosses conneries (sur le principe de GDPR par ex).

[invite73192618]

Si un modo se sent d'humeur à ajouter un sondage, la première version ne passait pas pour cause de taille, la version courte est ci-dessous mais je ne peux pas l'ajouter p/r (délai de 5 minutes dépassé)/(con de logiciel).

IA +, libérer l'accès aux données publiques
IA +, interdire l'accès aux données publiques
IA +, filtrer l'accès aux données publiques
IA -, libérer l'accès aux données publiques
IA -, interdire l'accès aux données publiques
IA -, filtrer l'accès aux données publiques

[invite73192618]

J'hésite entre 1 et 3. Je suis conscient des risques de libérer l'accès mais la situation actuelle revient à filtrer par la situation économique souvent.

Ceci dit et comme tu le dis, garantir l'anonymat est extrêmement compliqué donc j'aurais tendance à penser qu'un accès libre devrait être compensé par des contraintes (genre déclaration un peu comme actuellement pour la CNIL) et des sanctions en cas d'abus ou de grosses conneries (sur le principe de GDPR par ex).

Intéressant merci. Effectivement la situation économique n'est pas neutre dans ces questions, et cela influe probablement la désirabilité des réponses. J'aurais mettre de quoi p/r le statut économique ou la vision pessimiste/optimiste en général.

Pour ceux que ça intéressent mais veulent garder leurs réponses discrètes voir ici. Je ferais une compilation si on atteint une dizaine de réponse ou plus.

[A voir en vidéo sur Futura]

[mh34]

Hello!

Avant de répondre à ton sondage, j'aimerais une explication là-dessus ;

Les progrès en IA nous apprennent une chose pertinente à ces questions: il est absolument certain que de rendre publique toutes les données aboutirait rapidement, et pendant longtemps, à sauver des vies, améliorer la qualité de vie de nombreuses personnes en situation de handicap ou en rémission de blessures physiques ou psychologiques ou simplement vieillissante,

Je ne vois pas du tout par quel mécanisme le fait de rendre publiques toutes les données arriverait à ce résultat. Tu peux m'expliquer?

Ensuite, quand tu dis "rendre publiques toutes les données", ça signifie que moi par exemple je devrais mettre les compte-rendus et les images des examens des patients à la disposition de qui veut? Alors là tu peux toujours t'accrocher une gamelle...
Autrement dit c'est un"niet" définitif.

[JPL]

J’ai ajouté le sondage et j’ai choisi l’option à choix multiples pour le cas où certains hésiteraient.

[Ikhar84]

Moi ce qui me dérange c'est que les données publique étant par nature ... publique, pourquoi et comment en gérer l'accès (légalement, techniquement c'est aisé) ?

Ces données devrait déjà garantir une certaine "anonymisation".

Partant de là, je me concentrerais plutôt sur les objectifs du système: à visée commercial par exemple, il faudrait des contre-parties, si c'est d'utilité publique, c'est la raison même de la collecte de ces données.

Le problème n'est donc même pas l'IA mais la collecte et le traitement de ces données publiques, et leur mise à disposition.

[invite73192618]

Je ne vois pas du tout par quel mécanisme le fait de rendre publiques toutes les données arriverait à ce résultat. Tu peux m'expliquer?

Est-ce vraiment nécessaire? Disons que le sujet soit le climat ou un domaine de la mécanique quantique pour lequel tu n'as pas spécialement d'intérêt. Disons que presque tous les experts sont d'accord que le climat se réchauffe à cause des activités humaines et qu'un ordinateur quantique devrait être possible. Hé bien il y a en fait d'avantage de divergence sur ces questions que sur la question savoir si rendre publique toutes les données aboutirait rapidement, et pendant longtemps, à sauver des vies, améliorer la qualité de vie blablabla

Bon puisque tu insistes Mettons qu'il y a un tératogène rare qui explique certaines malformations et qu'un ou deux cas sont passés par ton bureau. Tant que tes données (compte-rendus et les images des examens des patients etc) ne seront pas croisables avec les autres données permettant d'isoler ce tératogène, personne ne le trouvera. Bien sur il n'y a pas de garanties qu'un tératogène soit identifiable grace à tes données à toi. Par contre il est absolument certain qu'il y en a à trouver quelque part dans les banques de données médicales actuelles, et que ces banques sont actuellement très difficiles à explorer pour toutes sortes de raisons légales et administratives diverses.

Ensuite, quand tu dis "rendre publiques toutes les données", ça signifie que moi par exemple je devrais mettre les compte-rendus et les images des examens des patients à la disposition de qui veut?

Oui, si toutefois les patients sont d'accord (un ouptout comme pour la carte de don d'organe aurait relativement peu d'impact en termes de bénéfices attendus, sauf peut-être pour certains domaines de niche avec peu d'individus concernés).

Alors là tu peux toujours t'accrocher une gamelle...
Autrement dit c'est un"niet" définitif.

C'est une réponse possible et cohérente. Sauf que je pense bien t'avoir reconnu quand même sur le google form.

[invite73192618]

J’ai ajouté le sondage et j’ai choisi l’option à choix multiples pour le cas où certains hésiteraient.

Merci

gérer l'accès [...], techniquement c'est aisé

Pas tant que ça... en particulier les données médicales, c'est un vrai bordel.

Ces données devrait déjà garantir une certaine "anonymisation".

Yep, c'est marqué et obligatoire dans tous les formulaires de consentement. Fait qu'en théorie tout est beau et il y a beaucoup de chercheurs en sciences humaines ou médicale qui le croient. Il n'y a peu près que les experts en crypto qui se rendent compte à quel point que cette protection est illusoire si les données fuitent.

Le problème n'est donc même pas l'IA mais la collecte et le traitement de ces données publiques, et leur mise à disposition.

Oui, d'une certaine manière le problème existe depuis qu'on sait faire de l'épidémio. Le rôle de l'IA est simplement un immense accélérateur, genre on avait un mignon petit chaton et l'IA le fait grandir en tigre adulte.

[mh34]

Bon puisque tu insistes Mettons qu'il y a un tératogène rare qui explique certaines malformations et qu'un ou deux cas sont passés par ton bureau. Tant que tes données (compte-rendus et les images des examens des patients etc) ne seront pas croisables avec les autres données permettant d'isoler ce tératogène, personne ne le trouvera. Bien sur il n'y a pas de garanties qu'un tératogène soit identifiable grace à tes données à toi. Par contre il est absolument certain qu'il y en a à trouver quelque part dans les banques de données médicales actuelles, et que ces banques sont actuellement très difficiles à explorer pour toutes sortes de raisons légales et administratives diverses.

Comment ça difficiles à exploiter? Certes c'est pas le quidam lambda qui y a accès, mais tout de même!
http://invs.santepubliquefrance.fr/D...e-surveillance
Qu'une IA soit plus efficace pour traiter les données Ok, mais les registres on les a.

Oui, si toutefois les patients sont d'accord

Ah mais chacun fait ce qu'il veut avec SES données, mais c'est à chacun de faire la démarche. Sauf que...il va falloir leur faire signer un consentement éclairé j'imagine...et que ça ne met nullement à l'abri de problèmes judiciaires ensuite.

C'est une réponse possible et cohérente. Sauf que je pense bien t'avoir reconnu quand même sur le google form.

Si Google form c'est l'endroit où tu as mis ton sondage c'est raté! J'y suis pas allée!

[pm42]

Comment ça difficiles à exploiter? Certes c'est pas le quidam lambda qui y a accès, mais tout de même!

Prenons un exemple : en radiologie, les images restent chez les radiologues. Les sociétés qui travaillent sur l'IA pour fournir de l'assistance au diagnostic ont du mal à y avoir accès.
Soit elles doivent multiplier les partenariats, promettre de reverser du revenu aux radiologues ce qui les rend fragiles et lentes, soient elles se tournent vers des pays où les réglementations sont plus légères.
Ce qui pose des problèmes : les normes, pratiques et même physiologies peuvent être suffisamment différentes pour qu'on ne puisse pas transposer ce qu'on a appris avec des radios venues d'Inde en France.

On pourrait argumenter que fournir une gigantesque base anonymisée de radios+diagnostic en accès libre faciliterait largement la recherche dans ce domaine.
Et je n'ai pas besoin de te dire que quand on détecte des tumeurs plus tôt ou qu'on diminue le taux d'erreur des radiologues (qui sont moins performants en fin de journée par ex), on a un bénéfice évident en termes de santé publique.

Ceci dit, c'est un argument. Je suis conscient de ceux qui vont dans l'autre sens et encore plus de la très grande difficulté d'anonymiser réellement.
Dans certains cas, c'est presque impossible mais c'est un sujet en soi (qui avait été bien traité dans un Pour La Science d'il y a 1 an ou 2 et déjà évoqué ici).

[mh34]

Prenons un exemple : en radiologie, les images restent chez les radiologues. Les sociétés qui travaillent sur l'IA pour fournir de l'assistance au diagnostic ont du mal à y avoir accès.
Soit elles doivent multiplier les partenariats, promettre de reverser du revenu aux radiologues ce qui les rend fragiles et lentes, soient elles se tournent vers des pays où les réglementations sont plus légères.
Ce qui pose des problèmes : les normes, pratiques et même physiologies peuvent être suffisamment différentes pour qu'on ne puisse pas transposer ce qu'on a appris avec des radios venues d'Inde en France.

Effectivement, pour l'imagerie c'est plus compliqué même si on commence à avoir des bases de données, comme au CFEF par exemple, (https://www.cfef.org/) où on est en train de se constituer une jolie échothèque. Donc oui les imageurs y pensent et y travaillent. Tu as des sites comme celui-ci ; https://www.imaios.com/fr qui ont une démarche très intéressante.

On pourrait argumenter que fournir une gigantesque base anonymisée de radios+diagnostic en accès libre faciliterait largement la recherche dans ce domaine.

je n'en doute pas un instant...mais la première des choses est de vérifier que le diagnostic est le bon. Et ça ben...l'expérience prouve que c'est loin d'être évident. C'est aussi ce qui me fait peur...parce que mine de rien le nombre de diagnostics qui sont invalidés et/ou corrigés par la suite est quand même important...
http://www.sfrnet.org/rc/org/sfrnet/...20SARRAZIN.pdf

Je suis conscient de ceux qui vont dans l'autre sens et encore plus de la très grande difficulté d'anonymiser réellement.

D'après ce que dit Jiav ( et tu confirmes) c'est quasiment impossible. Ceci dit, j'ai l'impression que les mentalités changent à ce niveau, à partir du moment où l'habitude semble prise de diffuser sur les réseaux sociaux l'échographie de son fœtus, y compris certaines demandes de diffusion en direct...
Donc il suffit d'attendre un peu, le travail se fait doucement...

[LeMulet]

Le problème n'est donc même pas l'IA mais la collecte et le traitement de ces données publiques, et leur mise à disposition.

Tout à fait, les banques, les sociétés d'assurances, les sociétés d'étude de marché, les traders, etc etc, n'ont pas attendu l'avènement de l'IA pour faire des recoupements à partir des données disponibles

Ces recoupements, que ce soit par l'IA ou les autres méthodes informatiques ne sont d'ailleurs pas fiables à 100%, à partir du moment où les données ne sont pas fiables.
Le problème qui se pose, c'est donc la possibilité que fournit l'IA dans certains cas (reconnaissance faciale et quelques autres bricoles) d'acquérir des données plus fiables qu'auparavant et la possibilité de les recouper un peu mieux qu'avec des algorithmes classiques.

On présente faussement dans ce débat l'IA comme étant la coupable de la fin de l'anonymat, mais le problème c'est la possibilité d'accéder à des données plus fiables qu'auparavant (on peut par exemple supposer qu'un certain individu se trouvait au volant d'une voiture, enfin pas à 100%, ou plus ou moins identifier un utilisateur selon sa manière de taper au clavier etc) ainsi que par le moindre cloisonnement de ces données.

Par exemple, sans caméras dans tous les coins et la possibilité d'y avoir accès, l'IA spécialisée dans la reconnaissance visuelle est inutile.

Le vrai problème c'est à mon avis le laxisme ou l'autoritarisme (voir l'exemple de la Chine) des pouvoirs publics dans la gestion des données.
Par exemple on vous fait tout un fromage sur l'obtention d'une autorisation pour la pose d'une caméra de surveillance dans votre résidence (ne doit pas déborder sur la voie publique etc) et de l'autre côté on laisse les automobiles, les vélos etc et les utilisateurs de smartphone filmer la voie publique sans qu'il n'y ait vraiment de restriction.

Certains dirons que les autorités sont dépassés par le phénomène, et d'autres penseront qu'"on" a laissé faire.

[Tannhauser]

Bonjour

A mon avis ton sondage ne porte pas sur l'évaluation de la technologie elle même mais sur la capacité de la société actuelle à utiliser correctement cette technologie.
La capacité à utiliser la technologie pour l'intérêt du plus grand nombre n'est pas déterminé (ou peu) par la technologie elle même.

En ce qui me concerne j'ai commencé à m'intéresser de près au fonctionnement du système socio-économique suite à la crise de 2001.
Je commencais à bosser et l'IA était vraiment un gros centre d'intérêt (non professionel).
Mais j'ai stoppé net de coder quoi que ce soit à ce sujet, même à titre personnel, parce que j'ai conclu que ce système socio-économique ne pourra pas durer.
Et un système socio-économique qui ne fonctionne pas ne pourra se maintenir que de façon autoritaire.
j'aurais éventuellement pu travailler dans l'IA, ca m'aurait vraiment intéressé, mais finalement quoiqu'il arrive ca sera sans moi.
J'ai réévaluer périodiquement mon choix.
Je m'étais mis à Cuda et je n'achetais que des cartes NVidia, au cas où je changerais d'avis.
Aujourd'hui, quelque soit l'impact que j'aurais pu avoir (vraissemblablement quasi nul) je suis sur et certain d'avoir fait le bon choix.

Pour résumer, le contexte idéologique dans lequel est actuellement utilisé la technologie je dirais :
"ce qui n'est pas interdit est autorisé".
Les fabricants sont déresponsabilisés.
Les comportements de sale gosse égocentrique capricieux et colériques voire psychopathiques sont tolérés ou encouragés au nom de la croissance et de l'innovation.
Certaines idéologie percoive la responsabilité (y compris envers notre propre espèce) comme une atteinte à la liberté individuelle.
Ta question même est symptomatique de cela, faut-il supporter les mauvais cotés si on veut les bons.
Cela sous-entend de fait une incapacité à s'auto réguler ou une volonté de ne pas s'auto réguler.

Donc compte tenu que les capacité d'autocontrôle des entreprises sont très faibles ma réponse est claire, il faut filtrer à la source toutes les données permettant un usage abusif.
A mon avis on pourrait délivrer des autorisations d'accès seulement aux entreprises pour lesquels on sait qu'on aura un contrôle juridique efficace (ce qui exclu les gaffa).
En d'autre terme, pas complétement public.
Et virer de toute façon de tout ce qui pourrait permettre une identification directe, y compris le lieu et la région.
Si malgré tout certains était tentés de faire des croisements de données pour faire de l'identification, immédiatement retirer leur accès et les sanctionner.
Parce qu'il est visiblement en ce moment nécessaire de rappeller que ce n'est pas parce que c'est faisable qu'il va de soit que cela sera fait, je pense qu'il ne faut pas abandonner le peu de contrôle qu'il nous reste.

Et si il faut un exemple de l'irresponsabilité des industriels je pourrais parler des systèmes de conduites qui ne sont même pas capable de reconnaître leur domaine de fonctionnement.
Les constructeurs se servent de cette excuse pour dire que les accidents sont de la responsabilité du conducteur parce qu'ils utilisent mal le pilote auto, mais c'est au système qu'il reviens la charge de gérer cela.
Le système s'il est utilisé dans des conditions non supportées doit prévenir le conducteur que s'il ne reprend pas le contrôle il va mettre les warning et s'arrêter sur le bas coté.
On ne peut pas laisser l'utilisateur faire n'importe, c'est du gros foutage de gueule.
Idem avec l'histoire des mains sur le volant, c'est du grand n'importe quoi.
La voiture c'est une tonne qui se déplace à 100km/h, c'est du sérieux.
Il y a d'autres exemples où les constructeurs prennent la sécurité carrément pas au sérieux et n'en ont visiblement rien à cirer.
Ca ne m'étonnerais même pas qu'on les autorise à mettre en circulation des réseaux de neurones en mode apprentissage, c'est à dire par définition un soft non testé.

Pour résumer, je ne voterai pas parce que je ne porte pas de jugement de valeur sur la techno elle même.
Ce n'est pas la techno qui a fait que je ne code plus, c'est cette société.
Je pense que si on rend disponible des données elle devront être filtrées, et sous restriction uniquement aux entreprises européennes avec interdiction stricte et controlée de partager et croiser ces données.
Sinon 5 ans de tôles ferme, histoire de bien calmer tout ce petit monde qui se croit au dessus de l'intérêt commun.

Et un petit rappel, l'unité monétaire c'est l'argent, pas les informations personnelles.
La monnaie est l'instrument d'échange universel.
On ne peut pas exiger des infos en contrepartie d'un service, en tout cas si ca l'est, à mon avis ca ne devrait pas être légal parceque cela pourrait aboutir à des pertes de souveraineté.

[invite73192618]

A mon avis ton sondage ne porte pas sur l'évaluation de la technologie elle même mais sur la capacité de la société actuelle à utiliser correctement cette technologie.

Tout-à-fait. J'ai modifié le formulaire google pour qu'on puisse répondre à l'un sans répondre à l'autre (+ un ajout p/r la remarque de pm42).

Ca ne m'étonnerais même pas qu'on les autorise à mettre en circulation des réseaux de neurones en mode apprentissage, c'est à dire par définition un soft non testé.

De mon point de vue, vouloir interdire les réseaux de neurones en mode apprentissage, c'est un plaidoyer pour interdire les humains.

Mais j'ai stoppé net de coder quoi que ce soit à ce sujet, même à titre personnel, parce que j'ai conclu que ce système socio-économique ne pourra pas durer. (...) Ce n'est pas la techno qui a fait que je ne code plus, c'est cette société.
Je pense que si on rend disponible des données elle devront être filtrées

Merci pour ton point de vue. Mais, est-ce qu'il n'y a pas une tension entre "je ne code plus à cause de la société" et "je veux que ce soit la société qui décide comment filtrer"? Je suppose que la plupart des gens vont hésiter soit entre 1-3 soit entre 5-6. Dans les deux cas la position "filtrer" pourrait être considéré comme un vote de confiance envers nos institutions. Ta réflexion ne devrait-elle donc pas te rapprocher plus fortement d'une interdiction pure et simple?

[invite06459106]

Je suis du même avis que dit précédement, on ne juge pas l'outil, mais la façon de s'en servir d'ailleurs, la question se pose déjà depuis pas mal de temps en informatique, sans avoir besoin de parler d'IA

la position "filtrer" pourrait être considéré comme un vote de confiance envers nos institutions.

Bah voilà, c'est là le problème

une interdiction pure et simple?

Impossible.

[Tannhauser]

Ca fait quelques quelques centaines de millions d'années que les process d'apprentissage des humains ont été implicitement testés par sélection naturelle.
De plus chaque humain est conscient et responsable de ses propres actions.
Comme je l'ai dit plus tôt il semble que les constructeurs aient plutôt tendance à vouloir échapper à leur responsabilité, en tout cas c'est comme ca que perso je le vois.
Je constate aussi que les softeux ont de plus en plus tendance à faire tester leur produit par leur client, mais là aussi c'est juste une impression personnelle.

Mes choix perso sont le résultat d'une analyse personnelle et de ma propre responsabilité.
Que la société filtre ou interdise suppose dans les deux cas qu'elle conserve un certain contrôle.
Donc non, la société doit contrôler les données dans la mesure de ce qu'elle peut faire.
Si effectivement il est impossible de réguler la diffusion alors il faut l'interdire.
Mais l'interdiction ne va pas de soi.

[mh34]

Je constate aussi que les softeux ont de plus en plus tendance à faire tester leur produit par leur client, mais là aussi c'est juste une impression personnelle.

C'est quoi un softeux?

Si effectivement il est impossible de réguler la diffusion alors il faut l'interdire.
Mais l'interdiction ne va pas de soi.

D'accord avec les deux.

[Ikhar84]

C'est quoi un softeux?

D'accord avec les deux.

Les softeux c'est nous... les devs...
Et c'est vrai qu'avec la baisse des budgets et les délais coupés à la serpe, on a tendance à externaliser nos bêtas-test chez nos clients ...

[mh34]

Ok, merci de l'explication.

[pm42]

Je constate aussi que les softeux ont de plus en plus tendance à faire tester leur produit par leur client, mais là aussi c'est juste une impression personnelle.

J'ai du mal à voir le rapport entre cela et le sujet du fil. Idem pour une grande partie de la description ultra-pessimiste du monde dans le message précédent.

[Tannhauser]

C'est quoi un softeux?

D'accord avec les deux.

Les softeux c'est nous... les devs...
Et c'est vrai qu'avec la baisse des budgets et les délais coupés à la serpe, on a tendance à externaliser nos bêtas-test chez nos clients ...

oui c'est ca.
Ceux qui sont en charge du développement informatique (j'en étais un).

J'ai du mal à voir le rapport entre cela et le sujet du fil. Idem pour une grande partie de la description ultra-pessimiste du monde dans le message précédent.

Le rapport c'est une baisse apparente du sérieux des industriels et une course au rendement financier.
Cela affecte d'une façon générale leur capacité à assumer leur responsabilités et à respecter leur client.
Tu comprendras que je ne pense pas être optimise ou pessimiste, juste réaliste.

[invite84127968]

Je ne vote pas non plus cf post 14 qui exprime l'essentiel de ce qu'il y a à comprendre sur ce sujet.
Le contre champs utilisé au partage des informations est l'IA: il serait bon d'admettre que ce fantasme correspond à l’arrêt de l'évolution intellectuelle de l'humain.
Le système économique actuel est générateur de ce fantasme, tout système génère peut-être les conditions de sa propre survie cependant l'humanité fait partie d'un système bien moins naïf que ce qui est à la mode en ce moment.
A travers les simples réflexions données par GODEL, j'arrive déjà, moi individu sans connaissances particulières à envisager certaines limites et à raisonner en conséquence, clairement tout érudit est informé du fait de sa participation à l'autodestruction de l'évolution et sa question d'éthique réside dans la situation: si ce n'est pas moi un autre le ferra et je n’aurai pas de gain immédiat. La réponse raisonnable est isolante socialement donc tout autant contre nature.
Il y a là un point critique dans notre histoire, il est urgent d'y réfléchir sérieusement et de façon adulte.

[myoper]

Il y a là un point critique dans notre histoire, il est urgent d'y réfléchir sérieusement et de façon adulte.

Oui, ça donne ça:

Le contre champs utilisé au partage des informations est l'IA: il serait bon d'admettre que ce fantasme correspond à l’arrêt de l'évolution intellectuelle de l'humain.
Le système économique actuel est générateur de ce fantasme, tout système génère peut-être les conditions de sa propre survie cependant l'humanité fait partie d'un système bien moins naïf que ce qui est à la mode en ce moment.
A travers les simples réflexions données par GODEL, j'arrive déjà, moi individu sans connaissances particulières à envisager certaines limites et à raisonner en conséquence, clairement tout érudit est informé du fait de sa participation à l'autodestruction de l'évolution et sa question d'éthique réside dans la situation: si ce n'est pas moi un autre le ferra et je n’aurai pas de gain immédiat. La réponse raisonnable est isolante socialement donc tout autant contre nature.
Il y a là un point critique dans notre histoire, il est urgent d'y réfléchir sérieusement et de façon adulte.

Mais

[Garion]

7 - Rien à battre qu'une IA cible des pubs pour moi, je n'ai rien à cacher.

[albanxiii]

7 - Rien à battre qu'une IA cible des pubs pour moi, je n'ai rien à cacher.

Le sous-entendu et les possibles conséquences de cette phrase me dérangent, aussi je vous propose de réfléchir à cette citation :

Qu’on me donne six lignes écrites de la main du plus honnête homme de France, et j’y trouverai de quoi le faire pendre.

[mh34]

7 - Rien à battre qu'une IA cible des pubs pour moi, je n'ai rien à cacher.

Y compris vos données de santé ou celles de vos proches?
Ensuite je ne suis pas sûre qu'il ne s'agisse que de pubs...

[invite84127968]

Mais

Dommage j'aurai aimé comprendre pourquoi, ma phrase est fausse.
Lorsque je parle de Gödel, c'est avec l'idée que les systèmes de traitement automatisé de l'information sont obligatoirement basés sur des algorithmes. Ce que l'on nomme auto apprentissage est aussi dans un périmètre mathématique.

[LeMulet]

7 - Rien à battre qu'une IA cible des pubs pour moi, je n'ai rien à cacher.

Peut-être... mais réfléchissez quand même à la note qui vous serait attribué si vous viviez en Chine.

Le système de " crédit social" mis en place par le pouvoir chinois, consiste en l'attribution d'une note aux citoyens en fonction de leur comportement.

Il repose sur la collecte d'une myriade de donnée sur les personnes et les entreprises, de leur comportement dans les transports en commun à leur « moralité » sur les réseaux sociaux, en passant par leur respect du code de la route.

Tout cela donne une note agrégée qui permet d’identifier la « qualité » du citoyen et d’en déduire le périmètre de ses droits.

https://www.franceculture.fr/emissio...9-janvier-2019

J'ai précisé la date de l'info, car ça peut vite évoluer...
Ce qu'il y a d'intéressant ici à mon avis ici c'est qu'avec la Chine on a un exemple bien concret d'emploi des IA (des données en fait, comme déjà précisé plus haut) à fin de "régulation".

De plus, êtes-vous bien sur de ne pas être manipulable ?
Connaitre vos inclinaisons ne pourrait-il pas être utilisé à l'encontre de vos intérêts ?

[Garion]

Peut-être... mais réfléchissez quand même à la note qui vous serait attribué si vous viviez en Chine.

Mais là, le problème ne vient pas de la collecte des données, il vient de ce qu'en fait le gouvernement chinois. Ce n'est pas la même chose.
De la même manière, mes données de santé, je me fiche que des IA la connaisse, tant que la loi n'autorise pas ma mutuelle à les utiliser pour me surfacturer.

Il ne faut pas se tromper ce combat.