Path: ...!weretis.net!feeder8.news.weretis.net!pasdenom.info!from-devjntp
Message-ID: <uB7U-BUXUdeN4IZLiVq99qcPHl4@jntp>
JNTP-Route: news2.nemoweb.net
JNTP-DataType: Article
Subject: IA et risque d'extinction
Newsgroups: fr.comp.ia
JNTP-HashClient: 9J4CJbM6vgxLTycKOvPHxQJK4pQ
JNTP-ThreadID: T2AvtG9kT2u-l56Cy5B7z5lmnng
JNTP-Uri: http://news2.nemoweb.net/?DataID=uB7U-BUXUdeN4IZLiVq99qcPHl4@jntp
User-Agent: Nemo/0.999a
JNTP-OriginServer: news2.nemoweb.net
Date: Thu, 01 Jun 23 18:26:32 +0000
Organization: Nemoweb
JNTP-Browser: Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/114.0.0.0 Safari/537.36
Injection-Info: news2.nemoweb.net; posting-host="f04aa775945d88e4476575f30df4085bdd961b0b"; logging-data="2023-06-01T18:26:32Z/7956955"; posting-account="21@news2.nemoweb.net"; mail-complaints-to="newsmaster@news2.nemoweb.net"
JNTP-ProtocolVersion: 0.21.1
JNTP-Server: PhpNemoServer/0.94.5
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8; format=flowed
Content-Transfer-Encoding: 8bit
X-JNTP-JsonNewsGateway: 0.96
From: K. <secwin88@yahoo.co.jp>
Bytes: 3065
Lines: 41

Le « Statement on AI Risk » est un message d'avertissement sur un risque 
d'extinction de l'humanité, publié par le Center for AI Safety, qui 
réunit les signatures de plus de 350 spécialistes en IA, notamment Sam 
Altman (PDG et cofondateur d'Open AI), Demis Hassabis (patron de 
Deepmind), Dario Amodei (Anthropic), ainsi que Geoffrey Hinton et Yoshua 
Bengio, deux chercheurs considérés comme les pères de l'IA moderne 
grâce à leurs travaux sur l'apprentissage profond et les réseaux 
neuronaux.

Le communiqué est très court :

"Mitigating the risk of extinction from AI should be a global priority 
alongside other societal-scale risks such as pandemics and nuclear war."

Trad.
« L'atténuation du risque d'extinction lié à l'IA devrait être une 
priorité mondiale, au même titre que d'autres risques sociétaux tels 
que les pandémies et les guerres nucléaires. »

https://www.safe.ai/statement-on-ai-risk

Dans un article de préimpression, disponible sur arXiv, Dan Hendrycks, 
chercheur américain en apprentissage automatique et directeur du Center 
for AI Safety, détaille comment la sélection naturelle peut favoriser 
les IA par rapport aux humains :

« En analysant l'environnement qui façonne l'évolution des IA, nous 
soutenons que les agents d'IA les plus performants auront probablement des 
traits indésirables. Les pressions concurrentielles entre les entreprises 
et les militaires donneront naissance à des agents d'IA qui 
automatiseront les rôles humains, tromperont les autres et gagneront en 
puissance. Si ces agents ont une intelligence qui dépasse celle des 
humains, l'humanité pourrait perdre le contrôle de son avenir. »

"Natural Selection Favors AIs over Humans"
https://doi.org/10.48550/arXiv.2303.16200

"AI and Evolution"
https://youtu.be/48h-ySTggE8

-- 
Слава Україні 🇺🇦