Path: ...!2.eu.feeder.erje.net!feeder.erje.net!proxad.net!feeder1-2.proxad.net!usenet-fr.net!pasdenom.info!from-devjntp
Message-ID: <5ve68vrbDH690lv4DgPDRt9qYcw@jntp>
JNTP-Route: nemoweb.net
JNTP-DataType: Article
Subject: L'horreur existentielle de l'usine =?UTF-8?Q?=C3=A0=20trombones?=
Newsgroups: fr.comp.ia
JNTP-HashClient: z6yPZANS9eT7mAjZqcvEPm9HtMI
JNTP-ThreadID: ij1WjVXpVqjmtk31yqwFV7mb58E
JNTP-Uri: https://nemoweb.net/?DataID=5ve68vrbDH690lv4DgPDRt9qYcw@jntp
User-Agent: Nemo/1.0
JNTP-OriginServer: nemoweb.net
Date: Sat, 19 Oct 24 11:29:46 +0000
Organization: Nemoweb
JNTP-Browser: Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/130.0.0.0 Safari/537.36
Injection-Info: nemoweb.net; posting-host="18844380605a728cad6012e3a0a71e7ee9ec4bef"; logging-data="2024-10-19T11:29:46Z/9066455"; posting-account="21@nemoweb.net"; mail-complaints-to="julien.arlandis@gmail.com"
JNTP-ProtocolVersion: 0.21.1
JNTP-Server: PhpNemoServer/0.94.5
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8; format=flowed
Content-Transfer-Encoding: 8bit
X-JNTP-JsonNewsGateway: 0.96
From: K. <secwin88@yahoo.co.jp>
Bytes: 2325
Lines: 23

« Supposons que nous ayons une IA dont l'unique but soit de faire autant 
de trombones que possible. L'IA se rendra vite compte que ce serait bien 
mieux s'il n'y avait pas d'humains, parce que les humains pourraient 
décider de l'éteindre. Parce que si les humains le faisaient, il y 
aurait moins de trombones. De plus, le corps humain contient beaucoup 
d'atomes qui pourraient être transformés en trombones. L'avenir vers 
lequel l'IA essaierait de se diriger serait un futur avec beaucoup de 
trombones mais aucun humain. » (Nick Bostrom, Superintelligence)

Cette vidéo de près de 40 minutes explore le problème complexe de 
l'alignement des IA 
( https://fr.wikipedia.org/wiki/Alignement_des_intelligences_artificielles ), 
les difficultés à s'assurer que l'objectif assigné à un programme est 
bien celui que l'on désire. 

Passées les premières minutes, volontairement "décalées", l'auteur 
entre dans le vif du sujet et c'est proprement passionnant.

Cerise sur le gâteau, c'est en français !

https://youtu.be/ZP7T6WAK3Ow

-- 
Слава Україні 🇺🇦