La généralisation de l'IA et le risque de cyber-attaque majeure - Page 2
Discussion fermée
Page 2 sur 4 PremièrePremière 2 DernièreDernière
Affichage des résultats 31 à 60 sur 120

La généralisation de l'IA et le risque de cyber-attaque majeure



  1. #31
    JPL
    Responsable des forums

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure


    ------

    Si le duel acerbe entre Archozaure et pm42 ne s’arrête pas de suite il faudra fermer cette discussion dont l’ambiance est pourrie et le contenu informatif pertinent est très faible. Chacun a ses torts mais l’un d’eux en a, à mon avis, beaucoup plus que l’autre, mais je me refuse à instruire un procès public.

    -----
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  2. #32
    Bounoume

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    bon essayons de quitter ce marécage d'imprécations.....
    sur le plan technique: des systèmes avec IA sont-ils plus malins que les humains pour réécrire du code en modifiant les parties qui constituent des signatures identifiables par les contrôles de sécurité?
    A force de pondre de nouvelles versions, bien plus vite que les hackers humains, est-ce qu'ils ne vont pas saturer les systèmes de défense?

    Ce qui n'implique pas du tout que ça constituera UNE cyber-attaque digne de Terminator!
    Dernière modification par Bounoume ; 17/12/2023 à 18h58.
    rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)

  3. #33
    pm42

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par Bounoume Voir le message
    sur le plan technique: des systèmes avec IA sont-ils plus malins que les humains pour réécrire du code
    Non. Aucune IA n'est capable actuellement d'écrire du code complet pour autre chose qu'une petite application simple.

    Citation Envoyé par Bounoume Voir le message
    en modifiant les parties qui constituent des signatures identifiables par les contrôles de sécurité?
    Cela suppose que les attaques sont le fait de virus reconnus par des antivirus sur la base de leur signature.
    Déjà, on sait changer la dite signature sans avoir recours à une IA et les cyberattaques sont basées sur une vaste gamme d'outils. Les virus ne sont même pas fondamentaux.

    Citation Envoyé par Bounoume Voir le message
    A force de pondre de nouvelles versions, bien plus vite que les hackers humains, est-ce qu'ils ne vont pas saturer les systèmes de défense?
    Même supposition que juste au dessus alors que ce n'est pas du tout le sujet.
    Que veux dire "saturer les systèmes de défense" ?

    Tant qu'on parle dans l'abstrait à coup d'analogies ce qui est le cas depuis le début de ce fil, rien de ce qui est dit n'est pertinent.

  4. #34
    Liet Kynes

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Au fait qu'est devenu chaosGPT ?
    Sans questions il n'y a que des problèmes sans réponses.

  5. #35
    sunyata

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Bonsoir,

    Peut-être n'a-t-on même pas besoin de cyber-attaque pour que notre modèle de développement se retrouve en situation du grande vulnérabilité :

    Face à la perspective du dérèglement climatique et au risque d'une déplétion d'énergie : Que faisons-nous ? Nous continuons de développer les outils liés à l'internet, et envisageons d'automatiser toujours plus le travail qui était ou qui est effectué par l'opérateur humain.

    C'est un développement intrinsèquement orienté vers la croissance économique. Si demain on supprime l'internet : On supprime les banques, tout système de communication à l'échelle mondiale, la capacité à gérer efficacement la complexité du monde qui nous entoure, la coordination des avions, etc...Donc l'économie s'effondre. Cela montre que la high tech : Les technologies du net, le développement des IAs, etc...Tout ce développement technologique, est un inducteur de flux économiques et non un inhibiteur de flux.

    On pousse le système en direction de la croissance qui à un facteur d'efficacité prés corrélé à la consommation d'énergie.

    Poussons la bouchon un peu plus loin : 2150
    La tech. s'occupe de tout. L'humain est devenu aussi inutile au processus de production, qu'incompétent. Le dérèglement climatique sème le chaos un peu partout.
    Quelle réaction pourra-t-on avoir face à une déplétion majeure d'énergie ?

    Cordialement
    Dernière modification par sunyata ; 18/12/2023 à 22h04.

  6. #36
    polo974

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par sunyata Voir le message
    Bonsoir,
    ...
    Poussons la bouchon un peu plus loin : 2150
    La tech. s'occupe de tout. L'humain est devenu aussi inutile au processus de production, qu'incompétent. Le dérèglement climatique sème le chaos un peu partout.
    Quelle réaction pourra-t-on avoir face à une déplétion majeure d'énergie ?

    Cordialement
    Comme tu le dis: "La tech. s'occupe de tout", pas besoin de s’inquiéter...

    Remarque, pour pas mal de monde, on en est déjà là... à part les petites activités de la vie de tous les jours, on est bien incapable individuellement (ou même en petit groupe) d'entretenir et plus encore de remettre en état tous les éléments technologiques dont nous dépendons.
    Jusqu'ici tout va bien...

  7. #37
    oualos

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    C'est un développement intrinsèquement orienté vers la croissance économique. Si demain on supprime l'internet : On supprime les banques, tout système de communication à l'échelle mondiale, la capacité à gérer efficacement la complexité du monde qui nous entoure, la coordination des avions, etc...Donc l'économie s'effondre. Cela montre que la high tech : Les technologies du net, le développement des IAs, etc...Tout ce développement technologique, est un inducteur de flux économiques et non un inhibiteur de flux.
    Je suis d'accord avec la première et dernière phrase.
    Pardon mais le reste est un système d'inférences basé sur une certaine méconnaissance de notre système économique.
    Non que je sois spécialiste -d'ailleurs je suis spécialiste en rien !- mais la société est comme les espèces vivantes, analogie limitée bien sûr: elle s'adapte ou elle meurt.
    Et ça concerne le travail bien entendu: pendant la crise de Covid, on a vu se développer de façon phénoménale le télétravail et un nouveau mot est rentré depuis dans le vocabulaire, le distanciel.
    Un des premiers essais de sociologie date du XVIIIème siècle et a été produit par le philosophe anglais Hobbes: il a écrit le premier pacte social où il aborde différents sujets comme les lois, l'économie, la sociologie et le pouvoir.
    Il est essentiellement pessimiste et Rousseau s'en inspirera pour écrire le sien plus tard, un peu plus optimiste quand même.
    Et l'essai de Hobbes s'appelle Léviathan ce qui dit bien ce que ça veut dire: nos sociétés ont une force d'inertie considérable ce qui veut dire qu'elles sont capables d'encaisser des changements parfois soudains et de s'adapter.
    Et la société va devoir s'adapter à l'IA: ce qu'elle fait déjà.
    Évidemment cela suppose la mise en place de ce que Deleuze appelait "les sociétés de contrôle".
    Dernière modification par oualos ; 19/12/2023 à 07h04.

  8. #38
    oualos

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    On ne supprimera pas l'Internet comme ça: il a déjà été attaqué plusieurs fois mais il existe des parades qui sont locales. Bien sûr cela entraine des paralysies mais temporaires: tout dépend à quoi les hackers s'attaquent.
    Ils n'ont pas intérêt de s'attaquer au système en général car cela les paralyserait eux et donc les priverait de source de revenus potentielles.

    On peut imaginer par contre un psychopathe dont ce serait le projet: encore faudrait-il qu'il trouve une équipe pour le suivre...
    Les films-catastrophes sont pleins de scenarii de ce genre -et même en tout genre- mais ce sont des films.
    Dernière modification par oualos ; 19/12/2023 à 07h13.

  9. #39
    Bounoume

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    ainsi, exit la cyberattaque apocalyptique..... grâce à une immunité et des systèmes de réparation suffisamment bien répartis.....
    mais je reprends la métaphore biologique
    le système immunitaire protège l'animal des agressions virales....
    mais il y a aussi des maladies auto-immunes, parfois mortelles....

    les mesures de protection, d'authentification, de vérification sont indispensables face aux risques.....
    mais la croissance continuelle de leur complexité, et de leurs intrications (avec des effets du genre deadlock par exemple pour restaurer une identification accidentellement corrompue) , ça pose problème....

    est ce que ça ne peut pas devenir bloquant, avec tant de dénis de services que plus rien ne pourrait reprendre?



    remarque: pour le citoyen ordinaire, la galère possible pour réactiver un code d'accès.... si il faut donner une information.... accessible avec d'autres codes... etc... dont l'accès dépend du code d'accès initial.....dans des procédures administratives par exemple.....
    Dernière modification par Bounoume ; 19/12/2023 à 18h47.
    rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)

  10. #40
    oualos

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    mais il y a aussi des maladies auto-immunes, parfois mortelles...
    Comme par exemple ?
    Il n'y a pas que la technologie mais les valeurs sur lesquelles notre société est bâtie.
    Peut-être juste une supposition: l'essor de l'IA va nous faire rentrer en compétition directe avec les machines ce qui pourrait (je mets le conditionnel bien sûr) nous obliger à devenir plus intelligents.
    Je doute que la superstructure et même en général les gens considèrent l'IA comme une simple béquille, mais ce serait déjà pas mal si ça déchargeait de certaines tâches pénibles.

    Quant à prédire l'avenir, il faut une boule de cristal... ou savoir lire dans le marc de café.
    Le risque est inhérent à la nature humaine: l'essor de la biologie et la génétique peut ou aurait pu produire des maladies contre lesquelles on ne peut pas lutter etc.
    Lors du premier clone de brebis, il y a eu aussi un début de panique mais on n'a pas cloné en masse pour fabriquer des armées de Terminator bien que ça aurait été possible.
    On peut faire une liste non exhaustive des dangers introduits par le progrès et comme le mentionnait pm42, lorsque le train est apparu au début du siècle on disait que les vaches ne produiraient plus de lait par exemple.
    Òu de mauvaise qualité... Amusant exemple.
    C'est sûr que la complexité va augmentant et c'est pas fini, là je suis d'accord avec vous.

  11. #41
    Bounoume

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    mais il y a aussi des maladies auto-immunes, parfois mortelles...
    Comme par exemple ?
    il en existe une multitude....
    entre LED (lupus....) PR (polyarthrite...), pemphigoide bulleuse, vascularites, affections démyélinisantes (comme la SEP) , et ... en partie, DNID type 1.... etc....
    https://www.pasteur.fr/fr/journal-re...nous-attaquent
    amusant, n'est-ce pas....

    Seulement dans chacune, il y a un seul processus morbide néfaste... alors que dans une éventuelle paralysie des systèmes interconnectés, il y aurait certainement une multitude de défauts, impasses bloquantes, et d'étreintes fatales intriqués....

    En continuant ma métaphore pseudo-médicale, ça s'appelle la mort par cachexie....

    Peut-être juste une supposition: l'essor de l'IA va nous faire rentrer en compétition directe avec les machines ce qui pourrait (je mets le conditionnel bien sûr) nous obliger à devenir plus intelligents
    ça, c'est la tasse de thé des transhumanistes.....
    rien ne sert de penser, il faut réfléchir avant.... (Pierre Dac...)

  12. #42
    JPL
    Responsable des forums

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par oualos Voir le message
    Peut-être juste une supposition: l'essor de l'IA va nous faire rentrer en compétition directe avec les machines ce qui pourrait (je mets le conditionnel bien sûr) nous obliger à devenir plus intelligents.
    Le jour où les IA seront plus intelligentes que l’être humain il faudra copuler avec les ordinateurs pour que nos enfants soient plus intelligents
    Rien ne sert de penser, il faut réfléchir avant - Pierre Dac

  13. #43
    grosboul

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par JPL Voir le message
    Le jour où les IA seront plus intelligentes que l’être humain il faudra copuler avec les ordinateurs pour que nos enfants soient plus intelligents
    Ah, on voit que tu ne t'es jamais coincé le doigt dans une porte...

  14. #44
    oualos

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    ça, c'est la tasse de thé des transhumanistes...
    Je savais pas que j'étais affilié aux transhumanistes: je suis comme Mr Jourdain, je fais du transhumanisme sans le savoir haha
    du coup je me suis renseigné et suis tombé sur une profession de foi: à première vue ça a l'air dans le prolongement des Lumières et du positivisme d'Auguste Comte ce qu'ils semblent proclamer.
    https://iatranshumanisme.com/transhu...oprogressiste/
    Je le cite par curiosité, je suis d'aucun courant
    ...réforme des lois sur les substances psychoactives
    Ça ça m'a l'air d'un néologisme prétentieux, un techno-vocabulaire que je connaissais pas mais bon... tout comme techno-progressiste
    Techno-progressiste par rapport à quoi ? Mystère, peut-être en opposition aux thèses de la décroissance
    Dernière modification par oualos ; 20/12/2023 à 03h59.

  15. #45
    ThM55

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Quelques réflexions personnelles et quelques questions que je me pose. Pas de problème si la modération juge que c'est hors sujet.

    Quand je lis ce genre d'échanges, ainsi que pas mal de discussions dans la presse, je les trouve plutôt stériles. J'ai cherché la raison de cette impression et il me semble qu'on ne sait pas de quoi on parle parce qu'on n'a pas de vraie définition de l'IA. Par exemple dans le récent acte de régulation de l'IA voté par le parlement européen, on ne définit pas du tout ce que l'on entend par "intelligence artificielle", on n'en définit que des usages particuliers, des tâches, qui pourraient être effectuées sans l'aide d'un système (catégorisation biométrique, reconnaissance des émotions sur le lieu de travail, notation sociale, ...). C'est très curieux: on interdit par exemple à une machine de reconnaître les émotions d'un employé sur son lieu de travail mais il est impossible de l'interdire pour un contremaître humain. Au contraire, cela devrait faire partie de ses tâches essentielles, l'incompétence dans ce domaine conduit même parfois tout droit au harcèlement moral. Certes, cet humain sera peut-être en moyenne d'une performance inférieure à celle de la machine, mais l'intelligence émotionnelle peut faire partie des qualités d'un bon dirigeant. Bref, c'est bizarre de l'interdire à une machine, qui pourrait aider l'humain et n'a pas forcément un usage exclusivement répressif.

    D'autre part on lit sur le site du Parlement Européen: "Pour tenir compte du large éventail de tâches que les systèmes d’IA peuvent accomplir et de l’expansion rapide de leurs capacités, il a été convenu que les systèmes d’IA à usage général, et les modèles sur lesquels ils sont basés, devront respecter des exigences de transparence, comme initialement proposé par le Parlement. Il s’agit notamment de mettre à jour la documentation technique, de se conformer à la législation de l’UE sur les droits d’auteurs et de diffuser des résumés détaillés sur le contenu utilisé pour leur formation."

    Ce texte est extraordinaire et devrait faire bondir les experts d'openAI et autres modèles de langage: il vont devoir donner un résumé détaillé des contenus utilisés pour l'apprentissage de leurs modèles! Il devront payer des droits d'auteur à tous les ayant-droits des textes et images exploités par ces modèles. Est-ce envisageable? Et c'est sérieux, il y a de grosses amendes:

    "
    Le non-respect des règles peut entraîner des amendes allant de 7,5 millions d’euros ou 1,5 % du chiffre d’affaires à 35 millions d’euros ou 7 % du chiffre d’affaires mondial, en fonction de l’infraction et de la taille de l’entreprise."

    D'autre part, quelle est la frontière de ce qu'on appelle intelligence artificielle? Un système biométrique qui lit mes empreintes digitales et la forme de mon iris pour me donner accès à mon smartphone ou mon immeuble est-il considéré par la loi comme une IA? Ou bien cela devient-il une IA seulement quand il est utilisé par un tiers, par exemple à des fins policières? Si c'est le cas, la définition de l'IA n'a dans la loi européenne aucun contenu technique ou scientifique, elle est définie seulement par qui en fait usage. Je me demande par exemple à partir de quel moment un chatbot devient de l'IA pour la loi? Faut-il qu'il soit fondé sur l'architecture transformer? de l'apprentissage? Le chatbot de mon opérateur télécom est-il une IA? Mais s'il s'agit d'un système plus ancien du genre réseau bayésien, créé par des experts mais sans apprentissage automatique (je connaissais bien cette technique, j'en avais créé un dans les années 2000 pour diagnostiquer des disfonctionnements dans les réseaux), vu de l'extérieur, ce n'est pas très différent d'un système à apprentissage automatique mais techniquement je n'appellerais pas cela de l'intelligence artificielle, quoique... il n'y a pas eu d'apprentissage automatique dans ce système mais il contient des coefficients probabilistes qui sont dérivés d'observations statistiques, ce qui revient pratiquement au même, à une échelle toutefois très réduite. Si c'est une question de taille et du nombre de coefficients, où est la frontière? Ce n'est vraiment pas clair. C'est pourquoi j'ai l'impression qu'on ne sait pas vraiment de quoi on parle et on n'est pas sorti des polémiques à ce sujet.

    Dernière modification par ThM55 ; 20/12/2023 à 10h05.

  16. #46
    ThM55

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Je dois préciser qu'à mon avis le chatbot de mon opérateur télécom relève plus de la bêtise artificielle que de l'intelligence.

  17. #47
    pm42

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par ThM55 Voir le message
    Bref, c'est bizarre de l'interdire à une machine, qui pourrait aider l'humain et n'a pas forcément un usage exclusivement répressif.
    Quand les voitures sont apparues, les anglais ont voté en 1865 une loi qui :
    - limitait la vitesse à 6 km/h sur route et 3 km/h en ville
    - imposait aux véhicules d'être précédés par un homme à pied, 55m devant avec un drapeau rouge pour avertir du danger

    Cette loi est restée en place sous des formes diverses pendant plus de 30 ans.

    https://fr.wikipedia.org/wiki/Locomotive_Act

    Là il se passe la même chose : c'est nouveau donc on a peur de tout et on sort des réglementations à tout prix sans connaitre encore les risques.
    C'est accentué par le fait que les gouvernements n'ont pas vu arriver la montée des réseaux sociaux et leur impact. Donc ils veulent éviter de faire la même erreur (je n'invente pas ça, c'est une citation de quelqu'un impliqué dans l'élaboration de l'AI Act).

    Quand à définir ce qui est de l'IA ou pas, on peut supposer qu'actuellement, on va dire que c'est les systèmes qui utilisent de l'apprentissage automatique.
    Mais effectivement, un grand nombre de définitions dans le texte sont très floues et seront peut-être obsolètes rapidement.

    P.S : il ne s'agit pas de donner un résumé de toutes les données utilisées pour entrainer mais de les décrire. Par exemple "on a entrainé sur Wikipedia et sur tel corpus open-source".
    Je ne suis pas sur que cela serve à grand chose mais c'est l'approche bureaucratique standard : on fait des paperasses pour avoir des règles qui imposent à d'autres de faire des paperasses que personne ne lit jamais sauf pour vérifier qu'elles ont été faites.
    C'est inefficace à souhait mais ça rassure les incompétents.

  18. #48
    pm42

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par ThM55 Voir le message
    Je dois préciser qu'à mon avis le chatbot de mon opérateur télécom relève plus de la bêtise artificielle que de l'intelligence
    Ce n'est pas étonnant : les chatbots standards utilisent une technologie relativement peu efficace qui se contente de chercher des réponses de base à des questions faciles à interpréter.
    Utiliser des LLM niveau ChatGPT permet d'être beaucoup plus efficace mais pose d'autres problèmes : comment garantir que les réponses sont exactes ? Comment faire qu'on ne réponde pas à des questions hors sujet ?
    Il y a des solutions mais vu qu'on parle d'une technologie qui a en gros un an (ChatGPT), on n'est pas encore au stade de la maturité et l'utilisation généralisée.

  19. #49
    oualos

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Quand les voitures sont apparues, les anglais ont voté en 1865 une loi qui :
    - limitait la vitesse à 6 km/h sur route et 3 km/h en ville
    - imposait aux véhicules d'être précédés par un homme à pied, 55m devant avec un drapeau rouge pour avertir du danger

    Cette loi est restée en place sous des formes diverses pendant plus de 30 ans.
    chez nous il y a au moins trois lois qui sont restées en place

    1° Il est interdit d'appeler son cochon Napoléon. Loi édictée par Napoléon lui-même évidemment... Elle existe toujours
    2° Interdit pour des couples de s'embrasser sur les rails des voies ferrées.
    À l'époque les trains faisaient au maximum 30 km et s'ils voyaient une vache ou un couple en train de s'embrasser sur les voies, ils devaient forcément s'arrêter.
    3° Interdit de mettre des éclairages de nuit trop proches du château de Versailles.
    Cette loi date de Louis XVI et prétextait que la chambre à coucher du roi devait rester dans le noir total pendant la nuit.
    Ce qui est marrant c'est que cette loi a été appliquée une fois récemment pour annuler un match de foot nocturne se déroulant au stade de Versailles.

  20. #50
    ArchoZaure

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par pm42 Voir le message
    Quand les voitures sont apparues, les anglais ont voté en 1865 une loi qui :
    - limitait la vitesse à 6 km/h sur route et 3 km/h en ville
    - imposait aux véhicules d'être précédés par un homme à pied, 55m devant avec un drapeau rouge pour avertir du danger

    Cette loi est restée en place sous des formes diverses pendant plus de 30 ans.

    https://fr.wikipedia.org/wiki/Locomotive_Act

    Là il se passe la même chose : c'est nouveau donc on a peur de tout et on sort des réglementations à tout prix sans connaitre encore les risques.
    C'est accentué par le fait que les gouvernements n'ont pas vu arriver la montée des réseaux sociaux et leur impact. Donc ils veulent éviter de faire la même erreur (je n'invente pas ça, c'est une citation de quelqu'un impliqué dans l'élaboration de l'AI Act).
    Toujours le même exemple débile...
    Ils sont incompétents, ils ont peur pour rien, eux, mais pas moi.

    La suite de l’histoire puisque vous aimez cette histoire.
    L'accident de circulation de Bridget Driscoll est un sinistre accident automobile survenu à Londres le 17 août 1896. Il s'agit de la première mort d'un piéton au Royaume-Uni1 et du premier accident automobile mortel en Grande-Bretagne2. La victime, Bridget Driscoll, âgée de 45 ans, est morte sur le coup, percutée par une voiture en déplacement.
    L'accident s'est produit plusieurs années après celui qui s'est produit en Irlande, où la scientifique Mary Ward a été écrasée en 1869 par la machine à vapeur expérimentale construite par son cousin William Parsons3.
    Déroulement de l'accident

    Alors que Bridgett Driscoll traversait la Dolphin Terrace du Crystal Palace, dans le quartier Croydon de Londres, avec sa fille May et son amie Elizabeth Murphy4, elle est renversée par une automobile modèle Roger-Benz appartenant à la société Anglo-French Motor Carriage Company, qui était en train de réaliser une démonstration de conduite. Un témoin décrit l'allure de la voiture comme « terrible, aussi rapide qu'un bon cheval au galop » et la femme « désorientée à la vue de l'auto, immobilisée par la peur »2 bien que le conducteur ait hurlé de s'écarter en actionnant le klaxon5.
    L'accident s'est produit quelques semaines après qu'un acte du parlement (une loi) n'augmente les limites de vitesse à 23 km/h en remplacement de 3 km/h en ville et de 6 km/h dans les zones interurbaines2.
    https://fr.wikipedia.org/wiki/Accide...idget_Driscoll

    Pour ce qui est du nombre de morts par jour sur les routes de nos jours, je n'ai pas besoin de les citer, n'importe qui les connait.
    Et vous remarquerez qu'aucune personne censée ne s'est jamais plus demandé s'il fallait imposer ou non des règles de conduite sur les routes.
    Dernière modification par ArchoZaure ; 20/12/2023 à 10h46.

  21. #51
    titijoy3

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par pm42 Voir le message
    Quand les voitures sont apparues, les anglais ont voté en 1865 une loi qui :
    - limitait la vitesse à 6 km/h sur route et 3 km/h en ville
    - imposait aux véhicules d'être précédés par un homme à pied, 55m devant avec un drapeau rouge pour avertir du danger

    Cette loi est restée en place sous des formes diverses pendant plus de 30 ans.

    https://fr.wikipedia.org/wiki/Locomotive_Act

    Là il se passe la même chose : c'est nouveau donc on a peur de tout et on sort des réglementations à tout prix sans connaitre encore les risques.
    le but est sans doute de laisser le temps aux gens de s'adapter pour éviter les problèmes, idem pour l'IA

    il est vrai qu'on a dit un tas de choses idiotes sur la plus part des progrès, le train, l'électricité, l'automobile..
    Dernière modification par titijoy3 ; 20/12/2023 à 14h31.
    Maaaagnifiiiiique ! tout ça n'a aucune importance..

  22. #52
    pm42

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par titijoy3 Voir le message
    le but est sans doute de laisser le temps aux gens de s'adapter pour éviter les problèmes
    En fait quand on lit l'article, on découvre surtout que le but était de se protéger contre des risques imaginaires.
    C'est expliqué dès le 1er paragraphe : dégradation des routes et freinage.

  23. #53
    oualos

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Si on réfléchit le risque est toujours présent à chaque découverte synonyme de progrès.
    L'homme préhistorique a découvert qu'en frottant 2 silex l'un contre l'autre cela produisait du feu: avancée ou progrès technologique considérable, un grand pas pour l'humanité... Peut-être le plus grand de toute l'ère de l'hominidé!
    Sortant de l'ère glaciaire, il pouvait se chauffer ainsi que sa famille et manger plutôt cuit que cru.
    Et comme il y avait pas encore la télé à l'époque, les soirées devaient se passer devant le feu en racontant éventuellement des histoires
    s'ils savaient déjà parler bien sûr.

    Mais le feu pouvait incendier volontairement -ou non- la forêt voisine où vivait une autre tribu, donc aussi la demeure des ures et sangliers plus toute sorte d'autres bestioles plus ou moins comestibles comme des mammouths.
    quod erat demonstrandum: tout progrès comporte un risque, lié à la nature humaine en général. Et à l'imprévisible comme des accidents qui peuvent survenir.

    Selon moi et Schopenhauer elle a pas du beaucoup changer depuis cette époque, cette nature humaine malgré la civilisation.
    mais c'est un avis personnel.
    Dernière modification par oualos ; 20/12/2023 à 16h24.

  24. #54
    Liet Kynes

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par titijoy3 Voir le message
    le but est sans doute de laisser le temps aux gens de s'adapter pour éviter les problèmes, idem pour l'IA
    Open IA vient de créer une team pour le choc des "intelligences" : https://openai.com/blog/introducing-superalignment
    Sans questions il n'y a que des problèmes sans réponses.

  25. #55
    titijoy3

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par oualos Voir le message
    Si on réfléchit le risque est toujours présent à chaque découverte synonyme de progrès.
    L'homme préhistorique a découvert qu'en frottant 2 silex l'un contre l'autre cela produisait du feu: avancée ou progrès technologique considérable, un grand pas pour l'humanité... Peut-être le plus grand de toute l'ère de l'hominidé!
    Sortant de l'ère glaciaire, il pouvait se chauffer ainsi que sa famille et manger plutôt cuit que cru.
    Et comme il y avait pas encore la télé à l'époque, les soirées devaient se passer devant le feu en racontant éventuellement des histoires
    s'ils savaient déjà parler bien sûr.

    Mais le feu pouvait incendier volontairement -ou non- la forêt voisine où vivait une autre tribu, donc aussi la demeure des ures et sangliers plus toute sorte d'autres bestioles plus ou moins comestibles comme des mammouths.
    quod erat demonstrandum: tout progrès comporte un risque, lié à la nature humaine en général. Et à l'imprévisible comme des accidents qui peuvent survenir.

    Selon moi et Schopenhauer elle a pas du beaucoup changer depuis cette époque, cette nature humaine malgré la civilisation.
    mais c'est un avis personnel.
    je ne suis pas certain que nos ancêtres aient réussi à faire du feu avec des silex, du moins au tout début, je crois plutôt qu'ils se sont rendus compte par hasard que la viande cuite était meilleure que la viande crue (incendie provoqué par la foudre, opportunisme vis à vis d'animaux morts brûlés), et qu'il faisait moins froid à proximité d'un feu.. de là à ramasser une branche enflammée et apprendre à l'utiliser il n'y a qu'un pas,

    si quelqu'un peut confirmer ?

    PS: désolé pour le HS
    Maaaagnifiiiiique ! tout ça n'a aucune importance..

  26. #56
    polo974

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par ArchoZaure Voir le message
    Toujours le même exemple débile...
    Ils sont incompétents, ils ont peur pour rien, eux, mais pas moi.
    En quoi est-ce un exemple débile ? ? ?
    Il existait déjà des moyens de transports nettement plus rapides que les 3 km/h et tout aussi mortels en cas d'accidents, et il y en avait.

    Le truc débile était la loi en soit, pas le fait de la donner en exemple.

    Un cheval au (triple) galop va à plus de 60 km/h (pas longtemps, mais assez pour causer un accident).
    Un attelage 4 chevaux emballé ça doit être dans le même ordre de grandeur.


    La suite de l’histoire puisque vous aimez cette histoire.

    https://fr.wikipedia.org/wiki/Accide...idget_Driscoll
    Un accident parmi tant d'autres à l'époque si on y inclut les accidents mettant en cause des attelages et autres cavaliers circulant à nettement plus que 3 km/h.

    Pour ce qui est du nombre de morts par jour sur les routes de nos jours, je n'ai pas besoin de les citer, n'importe qui les connait.
    Et vous remarquerez qu'aucune personne censée ne s'est jamais plus demandé s'il fallait imposer ou non des règles de conduite sur les routes.
    Blabla où on passe d'un règlement débile bridant une vitesse au 20ème de ce qui se faisait déjà à un ensemble de règles raisonnables pour tenter de justifier la première...
    Jusqu'ici tout va bien...

  27. #57
    pm42

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par polo974 Voir le message
    En quoi est-ce un exemple débile ? ? ?
    C'est simplement qu'il n'a pas lu le lien ni compris l'argument.
    Comme je l'expliquais plus haut, le sujet est simplement qu'à l'époque, on a imaginé des risques associés à une nouvelle technologie notamment l'usure de la chaussée et les collisions.
    On a donc fait rapidement une réglementation qui s'est avérée inadaptée parce qu'on a constaté que les voitures endommageaient moins que les chevaux et qu'elles freinaient nettement mieux que les carrioles.

    Cela n'a rien à voir du tout avec le besoin d'un code de la route.

    Il y a de nombreux exemples où les risques qui sont anticipés à l'arrivée d'une nouvelle technologie sont imaginaires et où les vrais inconvénients sont découverts plus tard.
    L'exemple donné plus haut du train qui devait étouffer les passagers est typique : cela ne s'est pas produit mais personne à cette époque n'a imaginé l'impact du charbon. Celui-ci ne sera envisagé que fin XIXème siècle et sous-évalué.

  28. #58
    ArchoZaure

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par pm42 Voir le message
    C'est simplement qu'il n'a pas lu le lien ni compris l'argument.

    Comme je l'expliquais plus haut, le sujet est simplement qu'à l'époque, on a imaginé des risques associés à une nouvelle technologie notamment l'usure de la chaussée et les collisions.


    On a donc fait rapidement une réglementation qui s'est avérée inadaptée parce qu'on a constaté que les voitures endommageaient moins que les chevaux et qu'elles freinaient nettement mieux que les carrioles.
    Franchement, quelle logique bancale à deux balles ...
    Vous dites A à cause de B ET C, donc A faux puisque non B

    Mais où est passé C ?, les collisions ?

    Vous parlez des collisions et là vous oubliez les collisions dans la suite du raisonnement.
    J'aimerais pas être dans votre tête.
    Après c'est vrai que ça permet de se faire croire tout ce qu'on veut, c'est pratique quand on peut pas changer d'avis.

    DONC non, ILS AVAIENT RAISON DE SE DIRE QUE LES VOITURES ALLAIENT AUGMENTER DRASTIQUEMENT LE NOMBRE DE COLLISIONS ET QUE LE NOMBRE DE MORTS LIES AUX ACCIDENTS E LA ROUTE ALLAIT AUGMENTER.

    C'est pas qu'après coup on s'est dit : "Oh mais les gars on s'est trompé, il fallait pas limiter à 3 et 6km/h pour éviter plus de morts"
    NON
    C'est qu'on s'est dit "Oh, ben maintenant qu'on a 5000 morts par ans on est habitués, tout va bien".

    Il y a de nombreux exemples où les risques qui sont anticipés à l'arrivée d'une nouvelle technologie sont imaginaires et où les vrais inconvénients sont découverts plus tard.
    L'exemple donné plus haut du train qui devait étouffer les passagers est typique : cela ne s'est pas produit mais personne à cette époque n'a imaginé l'impact du charbon. Celui-ci ne sera envisagé que fin XIXème siècle et sous-évalué.
    NON le risque des automobiles n'était TOUJOURS PAS IMAGINAIRE, IL ne l'est TOUJOURS PAS AUJOURD'HUI et il le ne sera probablement toujours pas DEMAIN.

    Donc c'est un exemple débile, et au contraire ça montre exactement l'inverse de ce que vous prétendez démontrer (comme quoi la logique c'est implacable) : Dans le cas de l'automobile on a été bien trop laxiste face à un DANGER RÉEL.

    C'est pas réel, c'est juste 5000 morts par ans .... la bonne blague.
    Je ne vous parle même pas des stats les années d'avant, avant qu'on ne fasse PLUS PLUS PLUS PLUS de réglementations, A TOUS NIVEAUX, pour éviter l’hécatombe

    Citation Envoyé par pm42
    C'est simplement qu'il n'a pas lu le lien ni compris l'argument.
    C'est logique.

    Ahh oui, j'oubliais... on sait jamais...
    C'est les collisions qui tuent et non pas l'usure des route.
    Dernière modification par ArchoZaure ; 21/12/2023 à 11h32.

  29. #59
    sunyata

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par ArchoZaure Voir le message
    Franchement, quelle logique bancale à deux balles ...
    Vous dites A à cause de B ET C, donc A faux puisque non B

    Mais où est passé C ?, les collisions ?

    Vous parlez des collisions et là vous oubliez les collisions dans la suite du raisonnement.
    J'aimerais pas être dans votre tête.
    Après c'est vrai que ça permet de se faire croire tout ce qu'on veut, c'est pratique quand on peut pas changer d'avis.

    DONC non, ILS AVAIENT RAISON DE SE DIRE QUE LES VOITURES ALLAIENT AUGMENTER DRASTIQUEMENT LE NOMBRE DE COLLISIONS ET QUE LE NOMBRE DE MORTS LIES AUX ACCIDENTS E LA ROUTE ALLAIT AUGMENTER.

    C'est pas qu'après coup on s'est dit : "Oh mais les gars on s'est trompé, il fallait pas limiter à 3 et 6km/h pour éviter plus de morts"
    NON
    C'est qu'on s'est dit "Oh, ben maintenant qu'on a 5000 morts par ans on est habitués, tout va bien".



    NON le risque des automobiles n'était TOUJOURS PAS IMAGINAIRE, IL ne l'est TOUJOURS PAS AUJOURD'HUI et il le ne sera probablement toujours pas DEMAIN.

    Donc c'est un exemple débile, et au contraire ça montre exactement l'inverse de ce que vous prétendez démontrer (comme quoi la logique c'est implacable) : Dans le cas de l'automobile on a été bien trop laxiste face à un DANGER RÉEL.

    C'est pas réel, c'est juste 5000 morts par ans .... la bonne blague.
    Je ne vous parle même pas des stats les années d'avant, avant qu'on ne fasse PLUS PLUS PLUS PLUS de réglementations, A TOUS NIVEAUX, pour éviter l’hécatombe

    C'est logique.

    Ahh oui, j'oubliais... on sait jamais...
    C'est les collisions qui tuent et non pas l'usure des route.
    Tu soulignes quelque-chose de très pertinent : La perception d'un risque est liée à ce que la collectivité juge comme étant moralement acceptable.
    Les aspects aussi subjectifs que nos valeurs éthiques, nos politiques, nos règlementations, et nos normes conditionnent la notion de Risque, et la manière de le gérer. Il y a aussi une balance qui est faite entre les gains et le coûts potentiels pour la collectivité à l'instar des vaccins.

    Cordialement
    Dernière modification par sunyata ; 21/12/2023 à 19h34.

  30. #60
    polo974

    Re : La généralisation de l'IA et le risque de cyber-attaque majeure

    Citation Envoyé par sunyata Voir le message
    Tu soulignes quelque-chose de très pertinent : La perception d'un risque est liée à ce que la collectivité juge comme étant moralement acceptable.
    Les aspects aussi subjectifs que nos valeurs éthiques, nos politiques, nos règlementations, et nos normes conditionnent la notion de Risque, et la manière de le gérer. Il y a aussi une balance qui est faite entre les gains et le coûts potentiels pour la collectivité à l'instar des vaccins.

    Cordialement
    Il élude surtout le fait que le risque existait déjà avec les attelages hippomobiles.
    Sortir une loi qui oblige à rouler moins vite qu'un piéton en balade (c'est de cette loi qu'il est question), n'est pas très justifié (pour rester très poli) alors qu'il y a déjà d'autres véhicules beaucoup plus rapides et qui entraînent déjà leur lot d'accidents et qui par leurs cerclages (des roues) et ferrages (des sabots) participent à l'usure de la route.

    Bref, des morts sur la route (ou les chemins ou rues), il y en avait déjà avant les automobiles, donc cette argumentation sur le front de l'émotionnel, c'est de la diversion voire du populisme.
    Jusqu'ici tout va bien...

Page 2 sur 4 PremièrePremière 2 DernièreDernière

Discussions similaires

  1. Eslilv: Majeure ingenierie financiere
    Par Pitou27 dans le forum Questions sur les choix d'orientation
    Réponses: 23
    Dernier message: 17/01/2022, 15h04
  2. Risque des radiation des examens pour rien 6 radiographie risque de cancer ?
    Par dede6767 dans le forum Santé et médecine générale
    Réponses: 2
    Dernier message: 02/04/2019, 10h02
  3. une avancee legislative majeure
    Par phil12 dans le forum Habitat bioclimatique, isolation et chauffage
    Réponses: 18
    Dernier message: 23/09/2009, 07h22
  4. Théorie VVL avancée majeure ?
    Par invitec3f4db3a dans le forum Physique
    Réponses: 10
    Dernier message: 13/01/2006, 11h49