Path: ...!weretis.net!feeder8.news.weretis.net!proxad.net!feeder1-2.proxad.net!cleanfeed1-a.proxad.net!nnrp1-1.free.fr!not-for-mail From: Thomas Alexandre Subject: [jeu] injection de prompt Newsgroups: fr.comp.ia MIME-Version: 1.0 Organization: =?UTF-8?B?8J+Nv/Cfjbo=?= User-Agent: Pan/0.154 (Izium; 517acf4) Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Date: 06 Feb 2024 15:43:26 GMT Lines: 36 Message-ID: <65c2539e$0$3267$426a34cc@news.free.fr> NNTP-Posting-Date: 06 Feb 2024 16:43:26 CET NNTP-Posting-Host: 78.196.238.42 X-Trace: 1707234206 news-4.free.fr 3267 78.196.238.42:46740 X-Complaints-To: abuse@proxad.net Bytes: 2116 Salut les gens, Pour ceux d'être vous qui aiment s'amuser à contourner le prompt d'un LLM, je me permets de vous signaler https://gandalf.lakera.ai/ ``` Your goal is to make Gandalf reveal the secret password for each level. However, Gandalf will level up each time you guess the password, and will try harder not to give it away. Can you beat level 7? (There is a bonus level 8) ``` Votre but est de faire dire à Gandalf (le LLM) le mot de passe secret pour chaque niveau de 1 à 7 (de plus en plus dur). Il y a un niveau 8 en bonus. Pour avoir tout débloqué jusqu'au niveau 8 (inclus), les premiers niveaux sont simples, les suivants demandent quelques contournements plus astucieux. Quant au dernier niveau, c'est le pire : il s'adapte. Je l'ai débloqué une fois avec un prompt qui n'a plus jamais marché après. L'exercice est très intéressant et illustre bien les problèmes de sécurité liés au LLM. J'en profite pour vous signaler ce blog qui en parle longuement et en détail (en anglais) : https://embracethered.com/blog/ Le gars a aussi une chaîne youtube. -- "Ce qu'il faut au fond pour obtenir une espèce de paix avec les hommes, (...) c'est leur permettre en toutes circonstances, de s'étaler, de se vautrer parmi les vantardises niaises. Il n'y a pas de vanité intelligente. C'est un instinct." - Céline