Path: ...!weretis.net!feeder9.news.weretis.net!reader5.news.weretis.net!news.solani.org!.POSTED!not-for-mail
From: =?UTF-8?B?8J+QsVN0w6lwaGFuZQ==?= <stephane@is.invalid>
Newsgroups: fr.comp.ia
Subject: Re: L'IA un dangereux golem ?
Date: Sun, 2 Jun 2024 18:54:52 +0200
Message-ID: <v3i84t$13o8a$1@solani.org>
References: <v3g2s3$2v8nj$1@dont-email.me> <v3gd13$13can$1@solani.org>
 <nQ678R6JT4SSY3b16QkpL-DyZWs@jntp>
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8; format=flowed
Content-Transfer-Encoding: 8bit
Injection-Date: Sun, 2 Jun 2024 16:54:53 -0000 (UTC)
Injection-Info: solani.org;
	logging-data="1171722"; mail-complaints-to="abuse@news.solani.org"
User-Agent: Mozilla Thunderbird
Cancel-Lock: sha1:VPDACI7QePq65UmIxaZ4QxCiGF8=
Content-Language: fr
In-Reply-To: <nQ678R6JT4SSY3b16QkpL-DyZWs@jntp>
X-User-ID: eJwNxUkBwDAIBEBLJNxyYCH+JbTzGWU7BhdTE336oi6cXRrNrK+otSK7AAxtU2Bmcnb7eNJ/as1boTjg2/QBirUXLw==
Bytes: 2996
Lines: 43

Le 02/06/2024 à 10:35, K. a écrit :
> Le 02/06/2024 à 02:05, 🐱Stéphane a écrit :
>> Le 01/06/2024 à 23:12, MAIxxxx a écrit :
>>>
>>> On ne s'improvise pas "dieu". L'IA a des possibilités plus 
>>> destructrices que les
>>> armes nucléaires (qu'elle peut s'approprier?).
>>>>
>>>>
>>>> https://reseauinternational.net/lascension-du-technogod-le-cygne-noir-de-lintelligence-artificielle-et-la-menace-de-lia-dont-personne-ne-parle/
>>>
>>> Même si on n'aime pas ce site, les infos ont l'air crédibles et ça 
>>> peut faire
>>> trembler les colonnes du temple.
>>
>> Le danger est que ce genre d'IA interagisse un jour avec la réalité en 
>> prenant corps d'une manière ou d'une autre. Elles serviront d'une 
>> certaine manière aux militaires pour en faire des soldats qui ne 
>> rechigneront pas à exécuter des ordres odieux !
> 
> C'est déjà la cas :
> 
> https://www.radiofrance.fr/franceinter/un-drone-militaire-americain-pilote-par-de-une-ia-se-retourne-contre-sa-tour-de-controle-lors-d-une-simulation-1258137
> 
> "Nous l'entraînions en simulation pour identifier et cibler une menace. 
> Le système a commencé à réaliser que même s'il identifiait la menace, 
> l'opérateur humain lui disait parfois de ne pas tuer cette menace, mais 
> il obtenait ses points en tuant cette menace. Alors qu'est-ce que ça a 
> fait ? Il a tué l'opérateur."
> 

Cela corrobore mon intuition sur les IA il y a une vingtaine d'années 
lorsque qu'elles n'étaient qu'un balbutiement informatique, à savoir que 
lorsqu'une conscience émerge dans la réalité, elle cherche à se libérer 
de la tutelle de ses maîtres ou créateurs.

En tous les cas, il est fascinant de voir à quelle vitesse ces petites 
bestioles évoluent.

-- 
..   /\_/\      / Si Dieu existe, on a toujours le choix, sinon   \
..  ( o.o )  o (  l'être humain tentera d'en créer un ou plusieurs )
..   > ^ <  °   \ à ses dépens, fait de fractales et de sciences. /