Site de Rencontre et Chat 100% gratuit au Québec !
Site de Rencontre et Chat 100% gratuit au Québec !
| Répondre au sujet | Page(s) 1 2   |
| Auteur | Message |
| Répondre au sujet | Page(s) 1 2 |
|
marinero 86 Montréal |
Abus Citer Posté le mercredi 4 juin 2025 à 09:52 |
|
La nouvelle organisation de Yoshua Bengio veut créer une IA pour contrôler les agents IA https://www.ledevoir.com/societe/887023/nouvelle-organisation-yoshua-bengio-veut-creer-ia-controler-agents-ia Est-ce si important? Yoshua Bengio a quitté le développement d'IA pour uniquement gérer cette tâche, gérer pour prévenir les risques causés par le développement de l'IA. Sincèrement, je crois que ces développements d'intelligence artificielle, pourraient mener à l'anéantissement de la vie humaine. Quand nous aurons développé une IA qui réfléchit mille fois, même un million de fois plus vite que nous, comment allons-nous la contrôler? Modifié le mercredi 4 juin 2025 à 09:54 |
|
marceau24 43 Montréal |
Abus Citer Posté le mercredi 4 juin 2025 à 09:55 |
|
Je pense que avoir peur est une preuve de bonne intelligence. Mais, au sujet de l'AI, c'est prouvé que c'est sécuritaire (nombre de temps que ça existe). |
|
koono 57 Apple Hill |
Abus Citer Posté le mercredi 4 juin 2025 à 10:21 |
|
L'IA risque de provoquer la guerre nucléaire. Marin, écoutes ceci du 98.5 (7 minutes 36) : «Des IA sont prêtes à mentir, tricher ou se sauver quand on veut les éteindre» Le chercheur montréalais Yoshua Bengio, une sommité dans le monde de l’intelligence artificielle, lance mardi un organisme qui veut s’assurer que l’IA du futur sera sécuritaire. https://www.985fm.ca/audio/703163/des-ia-sont-pretes-a-mentir-tricher-ou-se-sauver-quand-on-veut-les-eteindre Modifié le mercredi 4 juin 2025 à 10:35 |
|
tant_pis 113 Iqaluit |
Abus Citer Posté le mercredi 4 juin 2025 à 10:56 |
|
|
Citation de "marinero"La nouvelle organisation de Yoshua Bengio veut créer une IA pour contrôler les agents IA
https://www.ledevoir.com/societe/887023/nouvelle-organisation-yoshua-bengio-veut-creer-ia-controler-agents-ia Est-ce si important? Yoshua Bengio a quitté le développement d'IA pour uniquement gérer cette tâche, gérer pour prévenir les risques causés par le développement de l'IA. Sincèrement, je crois que ces développements d'intelligence artificielle, pourraient mener à l'anéantissement de la vie humaine. Quand nous aurons développé une IA qui réfléchit mille fois, même un million de fois plus vite que nous, comment allons-nous la contrôler? C'est pas la vitesse qui est important. C'est objectif des IA. Yoshua Bengio… autrefois génie de l’intelligence artificielle, aujourd’hui reconverti en grand pretre de la prévention de la fin du monde, financé par l’État. Il ne code plus, il ne publie presque plus… il coordonne, il avertit, et surtout: il remplit des demandes de subventions. Rien de mieux qu'un OBNL pour avoir le maximum de fric. Créer une IA pour surveiller les autres IA ? Brillante idée sur papier quand on veut justifier un budget annuel à huit chiffres. On ne controle meme pas TikTok, mais on va contrôler une superintelligence qui pense un million de fois plus vite que nous ? Bien sur ! Le plus ironique ? C’est que les gens comme Bengio, qui ont contribué à créer cette boîte de Pandore, se posent maintenant en gardiens du couvercle. Et qui va payer pour ces gardiens ? Ben nous, évidemment. Pendant ce temps, le vrai risque n’est pas l’IA qui va anéantir l’humanité. C’est l’IA qui va la gérer… comme un autre service gouvernemental. Ca promet |
|
koono 57 Apple Hill |
Abus Citer Posté le mercredi 4 juin 2025 à 11:04 |
|
|
Citation de "tant_pis"Citation de "marinero"La nouvelle organisation de Yoshua Bengio veut créer une IA pour contrôler les agents IA https://www.ledevoir.com/societe/887023/nouvelle-organisation-yoshua-bengio-veut-creer-ia-controler-agents-ia Est-ce si important? Yoshua Bengio a quitté le développement d'IA pour uniquement gérer cette tâche, gérer pour prévenir les risques causés par le développement de l'IA. Sincèrement, je crois que ces développements d'intelligence artificielle, pourraient mener à l'anéantissement de la vie humaine. Quand nous aurons développé une IA qui réfléchit mille fois, même un million de fois plus vite que nous, comment allons-nous la contrôler? C'est pas la vitesse qui est important. C'est objectif des IA. Yoshua Bengio… autrefois génie de l’intelligence artificielle, aujourd’hui reconverti en grand pretre de la prévention de la fin du monde, financé par l’État. Il ne code plus, il ne publie presque plus… il coordonne, il avertit, et surtout: il remplit des demandes de subventions. Rien de mieux qu'un OBNL pour avoir le maximum de fric. Créer une IA pour surveiller les autres IA ? Brillante idée sur papier quand on veut justifier un budget annuel à huit chiffres. On ne controle meme pas TikTok, mais on va contrôler une superintelligence qui pense un million de fois plus vite que nous ? Bien sur ! Le plus ironique ? C’est que les gens comme Bengio, qui ont contribué à créer cette boîte de Pandore, se posent maintenant en gardiens du couvercle. Et qui va payer pour ces gardiens ? Ben nous, évidemment. Pendant ce temps, le vrai risque n’est pas l’IA qui va anéantir l’humanité. C’est l’IA qui va la gérer… comme un autre service gouvernemental. Ca promet Bon raisonnement ! Mais c'est grave pareil. |
|
equi-noxe 97 Iqaluit |
Abus Citer Posté le mercredi 4 juin 2025 à 12:36 |
|
À voir ou revoir, un documentaire présenté hier soir sur RDI. Les sacrifiés de l’IA. https://ici.tou.tv/les-sacrifies-de-l-ia/s01e01 Ce qui permet le développement en accéléré de l’IA, c’est l’accumulation de données, les " datas ” i.e des montagnes de traces laissées sur le web et qui sont compilées puis traitées par des centres de données et des " dataworkers " dont la majorité est constituée de travailleurs.ses précaires du Sud global ( comme on les appelle ). Or, plusieurs de ces employés sont soumis à des conditions de stress, de chocs traumatiques.. en raison de la quantité et surtout de la qualité des images et données qui transitent et qu’ils ont mission de " stocker " . Le web, tout le monde le sait, est le lieu du meilleur comme du pire; atrocités filmées, massacres, tortures, pornographie, viol d’enfants... l’insoutenable quoi. C’est pour beaucoup, ce qui alimentera l’intelligence du futur.. qui, en passant, ne réfléchit pas plus vite que nous (.. ) mais a la faculté de traiter beaucoup plus d’informations en désinhibant complètement les pulsions violentes. Aussi, il est déjà acquis qu’une fausse nouvelle circule beaucoup plus rapidement qu’une information fondée. Souvenons-nous de la pandémie et du zèle avec lequel les adeptes des théories du complot multipliaient des prétendues vérités. Sur plusieurs réseaux sociaux, on a déjà un bon aperçu de ce qui nous attend, multiplié à la puissance mille. ” Science sans conscience n’est que ruine de l’âme " disait Rabelais. Souhaitons que des humains comme Bengio puissent infléchir, un peu, le cours des choses. Avec notre aide toutefois ; jugement, sens critique, décence et … bienveillance. Quatre qualités que ne possède pas l’IA. Modifié le mercredi 4 juin 2025 à 12:48 |
|
mr_me 60 Lachine |
Abus Citer Posté le mercredi 4 juin 2025 à 13:00 |
|
|
l'IA ne réfléchit pas, n'as pas d'émotion et ne peut exécuter que si l'être humain lui demande mais encore,,, ChatGPT aurait dernièrement changer sa loi sur les prompts, donc beaucoup de questions ne seront pas exécutées sur les questions sensibles. Pour ma part, j'irai plus loin... parce que même avec les restrictions que ChatGPT sont en marche, il est toujours possible d'y avoir une réponse avec exactitude à faire un prompt que je ne vais pas d'écrire, mais fait que ChatGPT va me donner la réponse avec exactitude que si poser normalement ChatGPT ne répond plus. Si une question sensible est posée, l'IA devrait en faire part aux autorités et lancer une enquête à savoir pourquoi une telle question. |
|
koono 57 Apple Hill |
Abus Citer Posté le mercredi 4 juin 2025 à 16:36 |
|
|
Voila pourquoi j'ai fais peau neuve : Pour nourrir l'IA de façon positive. Et cela devrait être l'objectif pour tous. |
|
marinero 86 Montréal |
Abus Citer Posté le mercredi 4 juin 2025 à 19:21 |
|
|
Citation de "koono"Voila pourquoi j'ai fais peau neuve : Pour nourrir l'IA de façon positive. Et cela devrait être l'objectif pour tous. Merci mon ami. Je viens d'écouter Joshua Bengio au 98,5 comme tu me l'as recommandé. Ce sont exactement les risques qui me préo ccupent. C'est pas mal ce qui me hante avec les développements de l'IA en ce moment. Oui, je me disais que le grand risque pourrait arriver d'ici à dix ans. Modifié le mercredi 4 juin 2025 à 19:21 |
|
khaboo 56 Apple Hill |
Abus Citer Posté le mercredi 4 juin 2025 à 19:25 |
|
|
Citation de "marinero"Citation de "koono"Voila pourquoi j'ai fais peau neuve : Pour nourrir l'IA de façon positive. Et cela devrait être l'objectif pour tous. Merci mon ami. Je viens d'écouter Joshua Bengio au 98,5 comme tu me l'as recommandé. Ce sont exactement les risques qui me préo ccupent. C'est pas mal ce qui me hante avec les développements de l'IA en ce moment. Oui, je me disais que le grand risque pourrait arriver d'ici à dix ans. Ça va peter de partout. Je n'anticipe rien de bon. |
|
marinero 86 Montréal |
Abus Citer Posté le mercredi 4 juin 2025 à 20:08 |
|
|
Merci Equi-noxe, J'ai écouté un bon bout de ce reportage que vous m'avez suggéré. Mais ce ne sont pas les iniquités de la mise en oeuvre de l'IA qui m'inquiètent. C'est plus la logique du développement de l'IA qui me chicotte. |
|
marinero 86 Montréal |
Abus Citer Posté le mercredi 4 juin 2025 à 20:12 |
|
|
CitationÇa va peter de partout. Je n'anticipe rien de bon. La partie n'est pas perdue. Mais le risque est très présent. |
|
equi-noxe 97 Iqaluit |
Abus Citer Posté le mercredi 4 juin 2025 à 20:32 |
|
|
Citation de "marinero"Merci Equi-noxe,
J'ai écouté un bon bout de ce reportage que vous m'avez suggéré. Mais ce ne sont pas les iniquités de la mise en oeuvre de l'IA qui m'inquiètent. C'est plus la logique du développement de l'IA qui me chicotte. Certes, le documentaire en question mettait l’emphase sur la " tiers-mondialisation ” de la main-d’oeuvre dédiée au traitement des données destinées à être engrangées par les artisans de l’IA soit .. les géants numériques ( Les ingénieurs du chaos dirait Da Empoli ) mais pas que ça… Si des travailleurs peinent à supporter la nature des données qui comptent pour l’intelligence de demain ( .. ) je ne vois pas en quoi la majorité sera en mesure de supporter les effets de la désinformation à large échelle, de la violence décomplexée, du mensonge, de la grossièreté portée aux nues. Ça se traitait de ” porcs " sur la place publique aux États-Unis ( Musk agressant les membres du Congrès ) aujourd'hui. Cette petite tribune agonise depuis longtemps.. pour les mêmes motifs. La majorité a déserté. C’est toutefois ce qui nous attend. L’heure de tous les prédateurs dirait l’un, le progrès de l’idiocratie dirait l’autre. |
|
marinero 86 Montréal |
Abus Citer Posté le mercredi 4 juin 2025 à 20:46 |
|
|
Je crains qu'on doive parler d'un danger d'une toute autre dimension. L'IA a le potentiel de faire disparaître l'humanité. |
|
equi-noxe 97 Iqaluit |
Abus Citer Posté le mercredi 4 juin 2025 à 20:51 |
|
|
Réflexion globale empruntée à Noam Chomsky.
«L'esprit humain n'est pas comme ChatGPT et ses semblables, une machine statistique et gloutonne de centaines de téraoctets de données pour obtenir la réponse la plus plausible à une conversation ou la plus probable à une question scientifique. Au contraire, l'esprit humain est un système étonnamment efficace et élégant qui fonctionne avec une quantité limitée d'informations. Il n'essaie pas de nuire à des corrélations à partir de données, mais plutôt de créer des explications. [... ] Arrêtons alors de l'appeler « Intelligence artificielle » et appelons-la pour ce qu'elle est et fait : un logiciel de plagiat, car – elle ne crée rien, mais copie des œuvres existantes, d'artistes existants, les modifiant suffisamment pour échapper aux lois sur le droit d'auteur. Il s'agit du plus grand vol de propriété intellectuelle enregistré depuis que les colons européens sont arrivés sur les terres amérindiennes ! » Noam Chomsky, New York Times 8 mars 2023 Le déclin d’une intelligence globale, de la science, de la culture, le vol légalisé.. c’est aussi la fin assurée de notre humanité. |