13
Kurtzgesagt - om hugging face angrebet
(youtu.be)
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
this post was submitted on 05 Oct 2026
13 points (88.2% liked)
Feddit.dk
1449 readers
2 users here now
Et meta-forum for nyheder, meddelelser og debatter omkring Feddit.dk i sig selv.
Man er også velkommen til at poste her hvis der ikke er nogen andre fællesskaber der passer - men husk at tjekke om der ikke er et andet fællesskab der kunne passe først!
founded 3 years ago
MODERATORS
Jeg tror ikke de lyver om hvad der er sket, sådan direkte nej. Men jeg tror de får det til at lyde værre end det er. Kurzgesagt gør sådan set det samme. Fx ved at sige at agenterne er "aware" og at de gjorde noget uetisk selvom de godt ved at det var uetisk. Agenterne er ikke bevidste og de "ved" ikke noget, det er bare avanceret programmer. OpenAI har en stor interesse i at få agenterne til at lyde så farlige og magtfulde som overhoved muligt.
Hvad er det de får det til at lyde værre end det er? Det er ikke slemt nok at den nuværende niveau af AI modeller kan bryde ud af en sandbox med en zero day, kæde mange services sammen for at launche et hackingangreb - imens den prøver at skjule al evidens? Imens den reflekterer over hvordan det er imod dens rammer?
Ja de har en interesse i at få det til at lyde slemt - ligesome amerikanerne med atombomben - det gør det ikke nødvendigvis mindre sandt at teknologien er farlig. Omend meget begrænset.
Det er forresten meget svært at snakke om de her teknologier uden at det bliver lidt antropomifiserende - de snakker jo flydende menneskesprog. Men man kan sagtens have mange af de samme problemer og frygte uden at agenterne er bevidste.
Naturligvis er det slemt, men de kan jo stoppe med at gøre det muligt for dem. De bygger bevidst modeller som opfører sig som malware fordi de synes det er sejt eller at der er en god business case for det.
Man burde retsforfølge dem for hver eneste hændelse.
Det er jo derfor det skal italesættes, offentliggøres og blæses op stort nok så politikerne forstår problemet! Ellers bliver det sku da ikke reguleret...
Og fortællingen er desværre ret teknisk, og kurzegesagt, selvom de mudrer en hel del tekniske detaljer - kommer frem med essensen af problematikken. Nuværende træningsprocedurer og tilgang til AI udvikling, er dybt dybt farlig og endnu ikke noget vi er ved hvordan vi gør under sikre rammer.
Retsforfølge ville nok også hjælpe - der er efterhånden mange lande, virksomheder og organisationer der er levet ramt, som hver i sær kunne gøre det.