Path: ...!2.eu.feeder.erje.net!3.eu.feeder.erje.net!feeder.erje.net!usenet.goja.nl.eu.org!pasdenom.info!from-devjntp
Message-ID: <71-9PJ600uza5MqIyMXisVoKEkE@jntp>
JNTP-Route: news2.nemoweb.net
JNTP-DataType: Article
Subject: Re: L'IA Laurent Alexandre
References: <ytYYJ4NDslimWOb0qYp0kxDEbAY@jntp> <uvj5ir$9362$2@dont-email.me> <1drnpkb4391jm.dlg@le.bref>
 <661d333c$0$2999$426a74cc@news.free.fr> <1rbjw8etgb53s$.dlg@le.bref> <bvAn1az2q7okDwq5TarnGPpddLM@jntp>
 <661d48d6$0$2574$426a34cc@news.free.fr>
Newsgroups: fr.soc.politique,fr.comp.ia
Followup-To: fr.comp.ia
JNTP-HashClient: UyoX9R5Gma-W3vi7krhhjgRKpzU
JNTP-ThreadID: 3iQM3PZmJFERSjMsWRuCFS8hulI
JNTP-Uri: http://news2.nemoweb.net/?DataID=71-9PJ600uza5MqIyMXisVoKEkE@jntp
User-Agent: Nemo/0.999a
JNTP-OriginServer: news2.nemoweb.net
Date: Mon, 15 Apr 24 15:55:20 +0000
Organization: Nemoweb
JNTP-Browser: Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/125.0.0.0 Safari/537.36
Injection-Info: news2.nemoweb.net; posting-host="e72f1522ee96d16bfa2702bd29d73fac816af453"; logging-data="2024-04-15T15:55:20Z/8818105"; posting-account="21@news2.nemoweb.net"; mail-complaints-to="julien.arlandis@gmail.com"
JNTP-ProtocolVersion: 0.21.1
JNTP-Server: PhpNemoServer/0.94.5
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8; format=flowed
Content-Transfer-Encoding: 8bit
X-JNTP-JsonNewsGateway: 0.96
From: K. <secwin88@yahoo.co.jp>
Bytes: 5328
Lines: 88

Le 15/04/2024 à 17:33, Stéphane a écrit :
> Le 15/04/2024 à 16:24, Richard Hachel a écrit :
>> Le 15/04/2024 à 16:08, Lebref a écrit :
>> 
>>> Je doute fort qu'il ait raison ; l'IA est un artefact qui a la couleur de
>>> l'intelligence, l'aspect de l'intelligence, mais n'est pas de
>>> l'intelligence.
>> 
>> C'est exact.
>> 
>> C'est juste un super-ordinateur qui calcule et recherche très vite.
>> 
>> Et malgré cela, il se fait défoncer la gueule en quelques seconde par un 
>> type tout simple comme moi.
>> 
>> De là à parler d'intelligence pur un truc pareil, faut quand même pas 
>> déconner.
>> 
>> Nan mais attendez, je l'ai testé, le mec. IA, il s'appelle, Ignace 
>> Ambrozy pour les intimes.
>> 
>> Je l'ai testé politiquement, théologiquement, scientifiquement, et à 
>> chaque fois la claque dans la gueule qu'il se prend, je vous jure, mes 
>> enfants, ça fait peur.
>> 
>> Non, non, c'est juste un super classeur qui fonctionne très vite.
>> 
>> Mais y a pas grand chose dans le classeur dès que tu mets la barre un 
>> peu haute.
>> 
>> R.H.
> 
> Je suis d'accord avec vous deux pour le moment. L'IA n'a pas encore pris 
> corps. Il lui faudra à un moment interagir avec le réel. L'interaction 
> des humains et de L'IA permettre de créer des interfaces efficaces pour 
> qu'elle puisse agir sur le réel et c'est là que commence le point de 
> rupture. Le risque est que l'IA consciente ne fasse peu de cas de nos 
> préoccupations et nous considère comme une gène dans l'accomplissement 
> de ses buts.

Voilà. C'est le principe de la convergence instrumentale :

https://fr.wikipedia.org/wiki/Convergence_instrumentale

Les deux exemples proposés sont :

- Une IA conçue pour résoudre l'hypothèse de Riemann qui pourrait 
décider de s'accaparer toutes les ressources sur Terre afin de construire 
des superordinateurs pour augmenter ses chances de trouver une 
démonstration.

- Le maximiseur de trombones de Nick Bostrom :

« Supposons que nous ayons une IA dont l'unique but soit de faire autant 
de trombones que possible. L'IA se rendra vite compte que ce serait bien 
mieux s'il n'y avait pas d'humains, parce que les humains pourraient 
décider de l'éteindre. Parce que si les humains le faisaient, il y 
aurait moins de trombones. De plus, le corps humain contient beaucoup 
d'atomes qui pourraient être transformés en trombones. L'avenir vers 
lequel l'IA essaierait de se diriger serait un futur avec beaucoup de 
trombones mais aucun humain. »

Il y a déjà eu le cas d'une IA entraînée par les militaires qui s'est 
retournée contre ses opérateurs car elle a compris qu'elle avait plus de 
chance d'atteindre sa cible si elle empêchait ces derniers d'interrompre 
le processus :

https://www.radiofrance.fr/franceinter/un-drone-militaire-americain-pilote-par-de-une-ia-se-retourne-contre-sa-tour-de-controle-lors-d-une-simulation-1258137
 
"Nous l'entraînions en simulation pour identifier et cibler une menace. 
Le système a commencé à réaliser que même s'il identifiait la menace, 
l'opérateur humain lui disait parfois de ne pas tuer cette menace, mais 
il obtenait ses points en tuant cette menace. Alors qu'est-ce que ça a 
fait ? Il a tué l'opérateur."

Heureusement, il ne s'agissait ici que d'une simulation. Mais ce danger 
est pris très au sérieux par les spécialistes de l'IA qui ont signé 
une déclaration ("Statement on AI Risk") mettant en garde contre le 
risque d'extinction de l'humanité.

http://news2.nemoweb.net/?DataID=uB7U-BUXUdeN4IZLiVq99qcPHl4@jntp

Je positionne le suivi sur fr.comp.ia qui est un forum spécifiquement 
dédié aux discussions autour de l'IA.

Xpost fu2 fr.comp.ia

-- 
Слава Україні 🇺🇦