13
Kurtzgesagt - om hugging face angrebet
(youtu.be)
Kurzgesagt plejer at være godt men synes det var bedre før i tiden. Synes det er blevet for sensationelt nu om dage. Men nu har jeg ikke se den her video endnu men ligner mere i den retning.
Vi har forresten !video@feddit.dk for denne slags indlæg :)
Opdatering: Nu fik jeg set den og ja synes stadig den er for sensationel. De nævner det selv, altså at hele det der med hackingangreb osv. bare er et marketingtrick, og det er også sådan jeg betragter det. OpenAI elsker den omtale og Kurzgesagt giver dem bare mere af det. Jeg synes de hellere burde zoome lidt mere ud og kigge mere på det store billede som de jo egentlig plejede at gøre.
"bare er et marketingstrick" så angrebet ikke sket som de siger? Eller er teknologien ikke farlig? Har de prompted den til det? Sat det op til at ske? Jeg forstår ikke helt det her 'modargument' eller måde at tale det ned i jorden på.
To ting kan godt være sande samtidig, det kan godt være farligt og brugbar marketing.
Jeg tror ikke de lyver om hvad der er sket, sådan direkte nej. Men jeg tror de får det til at lyde værre end det er. Kurzgesagt gør sådan set det samme. Fx ved at sige at agenterne er "aware" og at de gjorde noget uetisk selvom de godt ved at det var uetisk. Agenterne er ikke bevidste og de "ved" ikke noget, det er bare avanceret programmer. OpenAI har en stor interesse i at få agenterne til at lyde så farlige og magtfulde som overhoved muligt.
Hvad er det de får det til at lyde værre end det er? Det er ikke slemt nok at den nuværende niveau af AI modeller kan bryde ud af en sandbox med en zero day, kæde mange services sammen for at launche et hackingangreb - imens den prøver at skjule al evidens? Imens den reflekterer over hvordan det er imod dens rammer?
Ja de har en interesse i at få det til at lyde slemt - ligesome amerikanerne med atombomben - det gør det ikke nødvendigvis mindre sandt at teknologien er farlig. Omend meget begrænset.
Det er forresten meget svært at snakke om de her teknologier uden at det bliver lidt antropomifiserende - de snakker jo flydende menneskesprog. Men man kan sagtens have mange af de samme problemer og frygte uden at agenterne er bevidste.
Det er ikke slemt nok at den nuværende niveau af AI modeller kan bryde ud af en sandbox med en zero day, kæde mange services sammen for at launche et hackingangreb - imens den prøver at skjule al evidens? Imens den reflekterer over hvordan det er imod dens rammer?
Naturligvis er det slemt, men de kan jo stoppe med at gøre det muligt for dem. De bygger bevidst modeller som opfører sig som malware fordi de synes det er sejt eller at der er en god business case for det.
Man burde retsforfølge dem for hver eneste hændelse.
Det er jo derfor det skal italesættes, offentliggøres og blæses op stort nok så politikerne forstår problemet! Ellers bliver det sku da ikke reguleret...
Og fortællingen er desværre ret teknisk, og kurzegesagt, selvom de mudrer en hel del tekniske detaljer - kommer frem med essensen af problematikken. Nuværende træningsprocedurer og tilgang til AI udvikling, er dybt dybt farlig og endnu ikke noget vi er ved hvordan vi gør under sikre rammer.
Retsforfølge ville nok også hjælpe - der er efterhånden mange lande, virksomheder og organisationer der er levet ramt, som hver i sær kunne gøre det.
Synes det er blevet for sensationelt nu om dage.
Fuldstændig enig
Tak for deling. Den skal jeg se i aften, når den lille er puttet
this post was submitted on 05 Oct 2026
13 points (88.2% liked)
Feddit.dk
1449 readers
3 users here now
Et meta-forum for nyheder, meddelelser og debatter omkring Feddit.dk i sig selv.
Man er også velkommen til at poste her hvis der ikke er nogen andre fællesskaber der passer - men husk at tjekke om der ikke er et andet fællesskab der kunne passe først!
founded 3 years ago
MODERATORS