Les dangers de l'IA selon Yoshua Bengio

Tu es ici : Les forums Jasez » Sciences » Les dangers de l'IA selon Yoshua Bengio

Répondre au sujet	Page(s) 1 2 3 4
Auteur	Message
Répondre au sujet	Page(s) 1 2 3 4
marinero 85 Montréal	Abus Citer Posté le mardi 25 juillet 2023 à 13:45
Envoyer un message Chatter Ajouter à mes contacts	Notre sommité canadienne en intelligence artificielle fera face a la sous-commission du Sénat américain sur la vie privée, la technologie et le droit. Je recommande de lire cet article de La Presse https://www.lapresse.ca/actualites/sciences/2023-07-25/selon-yoshua-bengio/des-ordinateurs-aussi-intelligents-que-des-humains-d-ici-20-ans.php CitationDès lors, le plus court délai qu’il entrevoit pour qu’un ordinateur atteigne le niveau de conscience d’un humain, environ cinq ans, est « particulièrement inquiétant », selon lui. Cette connaissance informatique est déjà répandue presque mondialement. Le danger est bien réel.
zanok 54 Apple Hill	Abus Citer Posté le mardi 25 juillet 2023 à 16:56
Envoyer un message Chatter Ajouter à mes contacts	J'ai lu l'article. Et oui c'est inquiétant. Le transhumanisme va fesser fort. Qui ne le voudrait pas lorsque paraplégique, la solution en serait ? Une avancée formidable avec ses lacunes et armes d'auto-destructions. Fascinant ce monde dans lequel ont est ! La seule chose qui me console est que l'IA, un jour, fera parler les animaux et on les respectera beaucoup mieux lorsqu'ils auront un language compréhensible pour l'humain. Les chats miaulent et les chiens jappent; mais c'est bien plus que cela. Il serait trop interessant de savoir ce qu'ils ont à nous dire.
equi-noxe 111 Canada	Abus Citer Posté le mardi 25 juillet 2023 à 17:53
Envoyer un message Chatter Ajouter à mes contacts	Ce qui est particulièrement inquiétant… c’est que des machines qui auraient potentiellement le même niveau et/ou potentiel d’intelligence de l’humain (… ) mais qui seraient entièrement dépourvues de ce qui fait également la " conscience " chez l’humain ( empathie, altruisme, compassion, remords… ) risquent de prendre le relais dans plusieurs secteurs d’activités humaines. On doit déjà composer avec certains phénomènes inédits sur le web notamment… des " usines à trolls " par exemple, téléguidés par des outils de propagande, des robots conversationnels qui peuvent facilement nous leurrer sur leurs intentions… on peut facilement imaginer des dérapages énormes et qui auront des impacts sur nous tous. Modifié le mardi 25 juillet 2023 à 17:57
ethernum 70 Sherbrooke	Abus Citer Posté le mardi 25 juillet 2023 à 17:58
Envoyer un message Chatter Ajouter à mes contacts	Un des problèmes évoqué est que les jeunes font faire leurs travaux par cette intelligence artificielle qui selon moi n`est pas intelligente mais programmée par des connaissances qui n`en sont pas mais qui font l`affaire de ceux qui en profitent pour accumuler richesse et pouvoir. Encore et toujours l`appât de la facilité et de l`apparente gratuité attire et en piège plusieurs. L`exemple de l`histoire enseignée est révélatrice du fait que ce sont les vainqueurs qui l`écrivent et en font la promotion, histoire qui entretient une vision particulière du monde par et pour ceux qui ainsi se maintiennent au pouvoir. Ainsi la religion institutionnalisée a utilisée l`ignorance et la naïveté des gens pour les mener en bateau. Cette intelligence artificielle est un ramassi de prétendues vérités qui sont en fait des mensonges.
zanok 54 Apple Hill	Abus Citer Posté le mardi 25 juillet 2023 à 18:01
Envoyer un message Chatter Ajouter à mes contacts	Citation de "equi-noxe"Ce qui est particulièrement inquiétant… c’est que des machines qui auraient potentiellement le même niveau et/ou potentiel d’intelligence de l’humain (… ) mais qui seraient entièrement dépourvues de ce qui fait également la " conscience " chez l’humain ( empathie, altruisme, compassion, remords… ) risquent de prendre le relais dans plusieurs secteurs d’activités humaines. On doit déjà composer avec certains phénomènes inédits sur le web notamment… des " usines à trolls " par exemple, téléguidés par des outils de propagande, des robots conversationnels qui peuvent facilement nous leurrer sur leurs intentions… on peut facilement imaginer des dérapages énormes et qui auront des impacts sur nous tous. Justement ! C'est cela dont il est question. Si l'IA est un ramassis de tous les humains pensants, elle aura la capacité de refleter la conscience humaine. Ce sera à s'y méprendre. Modifié le mardi 25 juillet 2023 à 18:02
zanok 54 Apple Hill	Abus Citer Posté le mardi 25 juillet 2023 à 18:03
Envoyer un message Chatter Ajouter à mes contacts	Citation de "ethernum" Un des problèmes évoqué est que les jeunes font faire leurs travaux par cette intelligence artificielle qui selon moi n`est pas intelligente mais programmée par des connaissances qui n`en sont pas mais qui font l`affaire de ceux qui en profitent pour accumuler richesse et pouvoir. Encore et toujours l`appât de la facilité et de l`apparente gratuité attire et en piège plusieurs. L`exemple de l`histoire enseignée est révélatrice du fait que ce sont les vainqueurs qui l`écrivent et en font la promotion, histoire qui entretient une vision particulière du monde par et pour ceux qui ainsi se maintiennent au pouvoir. Ainsi la religion institutionnalisée a utilisée l`ignorance et la naïveté des gens pour les mener en bateau. Cette intelligence artificielle est un ramassi de prétendues vérités qui sont en fait des mensonges. Non. Ce sera la vérité emballée d'une humanité qui se perd.
equi-noxe 111 Canada	Abus Citer Posté le mardi 25 juillet 2023 à 18:06
Envoyer un message Chatter Ajouter à mes contacts	Citation de "zanok"Citation de "equi-noxe"Ce qui est particulièrement inquiétant… c’est que des machines qui auraient potentiellement le même niveau et/ou potentiel d’intelligence de l’humain (… ) mais qui seraient entièrement dépourvues de ce qui fait également la " conscience " chez l’humain ( empathie, altruisme, compassion, remords… ) risquent de prendre le relais dans plusieurs secteurs d’activités humaines. On doit déjà composer avec certains phénomènes inédits sur le web notamment… des " usines à trolls " par exemple, téléguidés par des outils de propagande, des robots conversationnels qui peuvent facilement nous leurrer sur leurs intentions… on peut facilement imaginer des dérapages énormes et qui auront des impacts sur nous tous. Justement ! C'est cela dont il est question. Si l'IA est un ramassis de tous les humains pensants, elle aura la capacité de refleter la conscience humaine. Ce sera à s'y méprendre. Ce que l’on appelle la conscience collective n’est pas la somme des consciences individuelles.
zanok 54 Apple Hill	Abus Citer Posté le mardi 25 juillet 2023 à 18:08
Envoyer un message Chatter Ajouter à mes contacts	Citation de "equi-noxe"Citation de "zanok"Citation de "equi-noxe"Ce qui est particulièrement inquiétant… c’est que des machines qui auraient potentiellement le même niveau et/ou potentiel d’intelligence de l’humain (… ) mais qui seraient entièrement dépourvues de ce qui fait également la " conscience " chez l’humain ( empathie, altruisme, compassion, remords… ) risquent de prendre le relais dans plusieurs secteurs d’activités humaines. On doit déjà composer avec certains phénomènes inédits sur le web notamment… des " usines à trolls " par exemple, téléguidés par des outils de propagande, des robots conversationnels qui peuvent facilement nous leurrer sur leurs intentions… on peut facilement imaginer des dérapages énormes et qui auront des impacts sur nous tous. Justement ! C'est cela dont il est question. Si l'IA est un ramassis de tous les humains pensants, elle aura la capacité de refleter la conscience humaine. Ce sera à s'y méprendre. Ce que l’on appelle la conscience collective n’est pas la somme des consciences individuelles. J'aimerais bien le croire, mais l'IA en est bien capable........et de semer le chaos par bifurquation aléatoire.
zanok 54 Apple Hill	Abus Citer Posté le mardi 25 juillet 2023 à 18:09
Envoyer un message Chatter Ajouter à mes contacts	L'IA est une bibliothèque qui a conscience de tous les livres à son endroit :)
equi-noxe 111 Canada	Abus Citer Posté le mardi 25 juillet 2023 à 18:11
Envoyer un message Chatter Ajouter à mes contacts	Citation de "ethernum" Un des problèmes évoqué est que les jeunes font faire leurs travaux par cette intelligence artificielle qui selon moi n`est pas intelligente mais programmée par des connaissances qui n`en sont pas mais qui font l`affaire de ceux qui en profitent pour accumuler richesse et pouvoir. Encore et toujours l`appât de la facilité et de l`apparente gratuité attire et en piège plusieurs. L`exemple de l`histoire enseignée est révélatrice du fait que ce sont les vainqueurs qui l`écrivent et en font la promotion, histoire qui entretient une vision particulière du monde par et pour ceux qui ainsi se maintiennent au pouvoir. Ainsi la religion institutionnalisée a utilisée l`ignorance et la naïveté des gens pour les mener en bateau. Cette intelligence artificielle est un ramassi de prétendues vérités qui sont en fait des mensonges. Et qui pensez-vous éclairer avec cette pseudo vérité ? " Pseudo " dans le sens où il est admis que nombre d’institutions (.. ) servent au relais des idéologiques dominantes. Ce qui ne vous élève pas par contre, c’est de continuer à entretenir l’idée que tous vos congénères sont bassement au service des idéologies serviles. On attend la mise en lumière de vos grands " faits d’armes " en société monsieur. Modifié le mardi 25 juillet 2023 à 18:13
zanok 54 Apple Hill	Abus Citer Posté le mardi 25 juillet 2023 à 18:21
Envoyer un message Chatter Ajouter à mes contacts	Citation de "equi-noxe"Citation de "ethernum" Un des problèmes évoqué est que les jeunes font faire leurs travaux par cette intelligence artificielle qui selon moi n`est pas intelligente mais programmée par des connaissances qui n`en sont pas mais qui font l`affaire de ceux qui en profitent pour accumuler richesse et pouvoir. Encore et toujours l`appât de la facilité et de l`apparente gratuité attire et en piège plusieurs. L`exemple de l`histoire enseignée est révélatrice du fait que ce sont les vainqueurs qui l`écrivent et en font la promotion, histoire qui entretient une vision particulière du monde par et pour ceux qui ainsi se maintiennent au pouvoir. Ainsi la religion institutionnalisée a utilisée l`ignorance et la naïveté des gens pour les mener en bateau. Cette intelligence artificielle est un ramassi de prétendues vérités qui sont en fait des mensonges. Et qui pensez-vous éclairer avec cette pseudo vérité ? " Pseudo " dans le sens où il est admis que nombre d’institutions (.. ) servent au relais des idéologiques dominantes. Ce qui ne vous élève pas par contre, c’est de continuer à entretenir l’idée que tous vos congénères sont bassement au service des idéologies serviles. On attend la mise en lumière de vos grands " faits d’armes " en société monsieur. En ce qui me concerne, equinoxe, vos propos ne veulent rien dire. Vous pouvez être moins précise lollll ?
ethernum 70 Sherbrooke	Abus Citer Posté le mardi 25 juillet 2023 à 18:23
Envoyer un message Chatter Ajouter à mes contacts	Citation de "equi-noxe"Citation de "ethernum" Un des problèmes évoqué est que les jeunes font faire leurs travaux par cette intelligence artificielle qui selon moi n`est pas intelligente mais programmée par des connaissances qui n`en sont pas mais qui font l`affaire de ceux qui en profitent pour accumuler richesse et pouvoir. Encore et toujours l`appât de la facilité et de l`apparente gratuité attire et en piège plusieurs. L`exemple de l`histoire enseignée est révélatrice du fait que ce sont les vainqueurs qui l`écrivent et en font la promotion, histoire qui entretient une vision particulière du monde par et pour ceux qui ainsi se maintiennent au pouvoir. Ainsi la religion institutionnalisée a utilisée l`ignorance et la naïveté des gens pour les mener en bateau. Cette intelligence artificielle est un ramassi de prétendues vérités qui sont en fait des mensonges. Et qui pensez-vous éclairer avec cette pseudo vérité ? " Pseudo " dans le sens où il est admis que nombre d’institutions (.. ) servent au relais des idéologiques dominantes. Ce qui ne vous élève pas par contre, c’est de continuer à entretenir l’idée que tous vos congénères sont bassement au service des idéologies serviles. On attend la mise en lumière de vos grands " faits d’armes " en société monsieur. Pas toujours au service de mais aussi et surtout piégés par...
equi-noxe 111 Canada	Abus Citer Posté le mardi 25 juillet 2023 à 18:24
Envoyer un message Chatter Ajouter à mes contacts	Citation de "zanok"Citation de "equi-noxe"Citation de "ethernum" Un des problèmes évoqué est que les jeunes font faire leurs travaux par cette intelligence artificielle qui selon moi n`est pas intelligente mais programmée par des connaissances qui n`en sont pas mais qui font l`affaire de ceux qui en profitent pour accumuler richesse et pouvoir. Encore et toujours l`appât de la facilité et de l`apparente gratuité attire et en piège plusieurs. L`exemple de l`histoire enseignée est révélatrice du fait que ce sont les vainqueurs qui l`écrivent et en font la promotion, histoire qui entretient une vision particulière du monde par et pour ceux qui ainsi se maintiennent au pouvoir. Ainsi la religion institutionnalisée a utilisée l`ignorance et la naïveté des gens pour les mener en bateau. Cette intelligence artificielle est un ramassi de prétendues vérités qui sont en fait des mensonges. Et qui pensez-vous éclairer avec cette pseudo vérité ? " Pseudo " dans le sens où il est admis que nombre d’institutions (.. ) servent au relais des idéologiques dominantes. Ce qui ne vous élève pas par contre, c’est de continuer à entretenir l’idée que tous vos congénères sont bassement au service des idéologies serviles. On attend la mise en lumière de vos grands " faits d’armes " en société monsieur. En ce qui me concerne, equinoxe, vos propos ne veulent rien dire. Vous pouvez être moins précise lollll ? Ça tombe bien ! Mon propos ne s’adressait pas à vous.
marinero 85 Montréal	Abus Citer Posté le mardi 25 juillet 2023 à 19:35
Envoyer un message Chatter Ajouter à mes contacts	Equi, Très peu de gens sont en mesure de comprendre de quoi il s'agit. En ce moment l'IA peut sembler encore très loin d'être réellement intelligente. Quand Yoshua Bengio parle de 20 ans, c'est pour éviter d'ameuter tous ceux qui ne connaissent pas l'informatique. Quand il parle de 5 ans je crois qu'il voit des applications spécifiques de l'IA. Des applications malveillantes utilisées par des sociétés, des pays malveillants. Ce pourrait devenir une menace mondiale. Comment contrôler ces développements? C'est ce qu'il va discuter devant ces délégués étasuniens.
equi-noxe 111 Canada	Abus Citer Posté le mardi 25 juillet 2023 à 20:43
Envoyer un message Chatter Ajouter à mes contacts	Citation de "marinero"Equi, Très peu de gens sont en mesure de comprendre de quoi il s'agit. En ce moment l'IA peut sembler encore très loin d'être réellement intelligente. Quand Yoshua Bengio parle de 20 ans, c'est pour éviter d'ameuter tous ceux qui ne connaissent pas l'informatique. Quand il parle de 5 ans je crois qu'il voit des applications spécifiques de l'IA. Des applications malveillantes utilisées par des sociétés, des pays malveillants. Ce pourrait devenir une menace mondiale. Comment contrôler ces développements? C'est ce qu'il va discuter devant ces délégués étasuniens. Comment contrôler ? Je n’en sais rien. On parle de réglementation, de législation… Effectivement, se donner des normes collectives et mandater les individus au coeur des institutions qui nous représentent est la piste à privilégier. En sachant toutefois que des comportements délinquants persisteront ( qu’ils soient individuels ou collectifs ), que des appareils d’État à la marge .. voire des États jugés " voyous " sur la scène internationale pourront difficilement être assujettis à des lois et des standards établis par une communauté d’États. On n’a qu’à voir le phénomène de la " désinformation " qui, en certains endroits est littéralement devenue une arme de guerre et contre laquelle nous peinons tous à résister. M’enfin… considérons-nous chanceux d’avoir un ambassadeur aussi crédible que Bengio. Pour le reste, ceci demande un véritable acte de foi en la nature humaine.