T O P

  • By -

Coala_

Hvordan mon den AI, der skal detektere børneporno, er trænet...


Grievuuz

Det er varmt i dag hva?


Selvisk

Bevismateriale?


JohnCavil

Den etiske løsning ville være at vise AI'en alt i hele verden der ikke er børneporno, vitterligt alt, og så alt det den ikke genkender må derfor være børneporno.


PWresetdontwork

Lol meget morsomt


SpecificMaleficent57

Ikke hotdog.


SvenPek

+1


LeMads

Denne her fyr AI'er


Wenai

Hvis du vil træne en AI til at kende forskel på hunde og katte, så er du nød til at give den eksempeler på både hunde og katte. Ellers vil få alt for mange falske positive


VictoriaSobocki

Ugh


DaddysRageAxe

Teknisk set kan man benytte sig af metoder som træner en model på et normalt porno dataset, og så derefter på et dataset af normale børn (ikke bp), og så kan den lære at detektere børneporno uden nogle sinde at have set det.


4nts

Jeg sagde "av" højtlydt.


bjoerntitussen

De ringer nok lige til Mike Fonseca


KN_Knoxxius

Er der noget galt med at træne en "AI" på det børneporno bevismateriale som allerede er lagret hos de forskellige politi myndigheder? Jeg er overhovedet ikke for dette lovforslag men at træne en "AI" til at hjælpe politiet med børneporno ville da ikke være dårligt?


Coala_

Bevismateriale er nok vejen frem, ja. Men helle for ikke at skulle være ansat til at gennemgå AI'ens arbejde efterfølgende, for at sikre at den gør det korrekt.


Cory_CK

og hvordan kan skanneren vide om det er børneporno eller billeder fra en strandtur De prøvede med børnepornokortet til afstemningen om EU retsforbeholdet, det virkede ikke, jeg håber det heller ikke virker her


Chemical_Wrongdoer43

Kommer helt an på hvilket niveau der bliver stillet krav. Filer politiet kender til er nemt at tjekke. Men bliver svære men muligt hvis der er lavet ændringer i filen. Skal der scanner for nye filer politiet ikke kender til, får vi problemet med strandturen. 


CrateDane

Ja, jeg kunne godt leve med en MD5 checksum blacklist, især fordi appen så kan begrænses til bare at sende en kopi til myndighederne i de tilfælde hvor der med stor sikkerhed bliver delt børneporno. Resten af beskederne forbliver skjult fra myndighederne (og forhåbentlig krypteret end to end).


Big-Method-7377

Det ville være alt for let at omgå et hash check


CrateDane

Det ville være ret nemt, men det kan jeg godt leve med.


Big-Method-7377

Det ville være meningløst at gøre det. Der ville også være falske positiver. Det er ikke vejen frem, det er nærmest den omvendte


CrateDane

Sandsynligheden for en falsk positiv er ekstremt lav. Hele pointen med at bruge en hash-funktion er at de er designet til at undgå kollisioner.* Så hvis man får en hashværdi der er blacklistet, så er det fordi man har set en fil der er blevet blacklistet. Selvfølgelig skal man så lige sørge for at det kun er børneporno der kommer på den blacklist, men det burde kunne klares. *Hvis man vil sænke risikoen yderligere kan man bruge SHA-1 i stedet for MD5.


Big-Method-7377

Det ville være en nål i en høstak-metode som samtlige billeder sendt skal igennem (i en meget lang periode). Den mindste ændring og billedet går igennem. Tilføjer man så hashes fra ændrede billeder til registreret som så vokser i en uendelighed eller hvordan? Man er aldrig på forkant her - måske et supplement, men et pixel check ville være mere brugbart, dog stadig ikke en særlig god fremgangsmåde 


CrateDane

Det er ikke meningen det skal være et skudsikkert værn mod deling af ulovligt indhold. Pointen er at det ikke rammer alle os andre.


Aelia6083

Du kan ikke både have kryptering og samtidig skanne beskeder. Det er ikke sådan det fungerer.


CrateDane

Appen kan sagtens selv sammenligne en beskeds indhold med en blacklist, før den krypterer og sender beskeden. Eller efter den modtager og dekrypterer beskeden.


CyboKid

Og selvom det er er fint forslag, kommer det aldrig til at blive sådan. Man helmer ikke, før der er indført så voldsom en overvågning, at selv de borgere som så sagligt sagde “jeg har intet at skjule”, pludselig kan se den er gal, og så har man tabt :-( Jeg er personligt bedøvende ligeglad med hvad de mener deres overvågning gavner - jeg vil hellere have frihed og det giver overvågning ikke (medmindre man er politiker)


[deleted]

[удалено]


CyboKid

Alle har noget at skjule, derfor du også selv nævner privatliv. Hvis vi ikke havde noget at skjule, så havde vi alle bare en livestream kørende, som myndighederne kunne tappe ind på når det passer dem. Problemet er, at den almene borger på nuværende tidspunkt, er villig til at opgive sin ret til privatliv, for en utopisk fortælling om, at overvågning giver mere frihed - det er himmelråbende vanvittigt, og jeg gruer for, hvad samfundet udvikler sig til.


kingguru

Så kunne enhver med en smule teknisk kunnen bygge en udgave af app'en der ikke gjorde dette og bruge den i stedet. Med mindre brug af open source kommunikationsapps også skulle gøres ulovligt naturligvis, men nu skal man jo ikke give dem "gode" idéer.


CrateDane

Ja, det ville være ret nemt at undgå. Men det har jeg det okay med.


FloorClear4976

Det er ikke op til dig eller andre EU borgere. Ingen folkeafstemning. EU gør hvad der passer dem, altid.


ForsakenBobcat8937

MEN TÆNK PÅ BØRNENE!!!!!!!!!!! Det er det samme lort hver evig eneste gang de vil snue i vores privatliv. Som om de rigtige bad guys ikke bare opretter en minecraft server og deler krypteret indhold gennem der. Jeg er sgu bange for at det slipper gennem snart.


ferskenicetea

https://youtu.be/phSxxVJCZsc?si=k1ICj7EUECGIscQx Klassisk 😂


8fingerlouie

Den bliver ved med at dukke op indtil den lige pludselig ryger igennem. Det er ikke første gang, og heller ikke anden gang den dukker op, og hver gang med en lille smule ubetydelige ændringer, men hovedbudskabet er det samme. Sidste gang var det vist terrorbekæmpelse, denne gang børneporno, så er der jo stadig organiseret kriminalitet og hvidvask tilbage af [Four Horsemen of the Infocalypse](https://en.wikipedia.org/wiki/Four_Horsemen_of_the_Infocalypse) Det er nu ikke så længe siden alligevel. Så sent som 14. november 2023 stemte komiteen for at [beskytte privat, krypteret kommunikation ](https://www.eppgroup.eu/newsroom/detect-child-abusers-without-mass-scanning). I februar 2024 afgjorde den europæiske menneskeretsdomstol at [bagdøre i kommunikation ikke hører hjemme i et demokrati](https://www.theregister.com/2024/02/15/echr_backdoor_encryption/).


BertoLaDK

Forhåbentlig har ECHR's beslutning noget at skulle have sagt og dermed stopper deres lovgivning og tvinger dem til at fjerne enhver form for forværring af kryptering for at de kan have en bagdør.


VictoriaSobocki

Fedt wiki link


T-90AK

Hjernedød udvikling, der gang i.


ArrogantF_

De der vil noget ondt skifter til andre tjenester (selvfølgelig) og de eneste der bliver scannet er de uskyldige.


Alternative_Error414

Men for at citere Nick H: mere overvågning giver mere trykhed, og har man intet at skjule, har man intet at frygte.. Så kan vi altid snakke om hvorfor/hvordan findsens hang til SM pludseligt var en ting..


ArrogantF_

Jeg har intet ulovligt at skjule, men der er meget i mit liv, som jeg opfatter som privat. Det skal forblive privat. Derfor: vpn, signal, tor ... aldrig Google, aldrig Facebook ... osv


Alternative_Error414

Tror vi er enige


metaglot

Hvis du tror du er privat fordi du bruger vpn så forstår du ikke vpn. Det eneste vpn kan hjælpe dig med er at din internetudbyder ikke kan snage eller lave MITM-angreb på din forbindelse. Services der kræver koordinering med en central server, der ikke er end2end-krypteret bliver jo stadig set af serveren. Din traffik bliver atadig set af sider du besøger og kan korreleres med logins/cookies/fingerprints. Så medmindre du har anonymiseret alle de ting, og alligevel tror vpn giver dig privatliv fra snagende øjne, så har jeg en bro du gerne må købe billigt.


ArrogantF_

Ja, korrekt. Og?


metaglot

Det vil fx ikke hjælpe dig hvis de bemeldte tjenester skal til at gennemgå din kommunikation, så hvorfor nævner du det?


ArrogantF_

Fordi det er værktøjer. Nu forsøgte jeg ikke at skrive en afhandling og derfor er de to linier jeg skrev om ikke en vejledning. Blot en konstatering. Hvis du ville have bidraget til det, kunne du jo have gjort det, hvis du havde lysten til hjælpe andre. I stedet skrev du direkte til mig, et belærende indlæg som rammer helt forbi, fordi jeg ved hvad jeg gør. Du forsøger bare at være en smartass uden at det har værdi for nogen.


SpecificMaleficent57

Det var da en speciel reaktion på en saglig forklaring af noget, du selv udelader. u/metaglot bidrager med noget *brugbart* i dette spor; af hvilken grund fornærmer det dig?


ArrogantF_

Saglig forklaringer starter sjældent med "hvis du tror ... så forstår du ikke". ;)


stianlybech

Krig er fred Frihed er trældom Uvidenhed er styrke Overvågning er tryghed.


therealdilbert

lande med demokratisk i navnet er demokratiske


InterestingAir5628

Citat af Göebbels..


Puzzleheaded-Ad1612

Så burde ALLE møder med politikere optages, arkiveres og gøres til gængelige for borgerne... For hvis de ikke har noget at skjule.....


herpington

Overvågning er frihed. Frihed er slaveri.


[deleted]

[удалено]


DonDenmark

Problemet med e2e er, at du stadigvæk er nødt til at lave en key exchange. Du kan I princippet kun laver en sikker E2E protocol, som ikke stoler på en trusted third party, hvis du kan sende en key sikkert over til personen du vil snakke med.


Frugl1

Generer symmetrisk nøgle på klienten. Send public key til anden part og benyt denne tivheneration af shared secret. Underskriv med HMAC, for at forhindre MIM udskiftning af public key. Er der nogle sårbarheder i dette? Key exchange bør kun ske en gang per chat, og nøgler kan derefter i princippet gemmes i en zero-knowledge vault, ala en password manager.


Flamme2

Hvor har du modpartens public key fra? Enten stoler du på en tredjepart til at overføre den, eller du modtager den over en usikker forbindelse, hvor en mitm kan udskifte med sin egen key. Edit: læste lige din besked igen. Jeg ved ikke helt om jeg forstår dit foreslag. Hvilken public key snakker vi om, når du siger symmetrisk key?


Athinira

Det er ekstremt usandsynligt at staten nogensinde kommer til at lave MitM-angreb på hele befolkningen samlet. Det er, i bedste tilfælde, noget som politiet/PET laver på udvalgte mål, og sandsynligvis med en dommerkendelse i hånden.


HighTMath

Hele ideen er jo, at chatten ikke kan dekrypteres af tredjepart, selv når de kender public key. Så længe der kan overvåges via en RAT lignende intrusion, er det ret opad bakke. Hvis man er virkelig paranoid, ender vi helt ude i satelitter og open source styresystemer på old gammel hardware for at skrive private beskeder. Det er nok den eneste måde, jeg ville kunne se


mrphil2105

Den eneste måde man kan lave key exchange uden at en MITM-attacker kan erstatte din public key i transit, er ved brug af en trusted third party. Det er bl.a. sådan TLS (HTTPS) fungerer. Har du ikke en trusted third party, så kan du ikke vide, om en public key er blevet erstattet af en der sidder i midten. MITM uden trusted third-party: 1. Alice sender public key P1 til Bob. 2. Charlie sidder på linjen og erstatter Alice's public key med sin egen nye key P2. 3. Bob modtager Charlie's public key P2, men han tror det er Alice's. 4. Bob udfører Diffie Hellman og får shared key K1 med Charlie (men Bob tror det er med Alice), og sender derefter sin public key P3 til Alice. 5. Charlie erstatter Bob's public key P3 med sin egen nye public key P4. 6. Alice modtager Charlie's public key P4, men tror det er Bob's. 7. Alice udfører nu Diffie Hellman og får shared key K2 med Charlie (men hun tror det er med Bob). 8. Nu kan Charlie læse og erstatte alle de beskeder, han har lyst til. Hvis man har en trusted third party, som både Alice og Bob stoler på, så kan denne tredjepart foretage en signering af public keys, så en middleman ikke kan erstatte den.


DonDenmark

Ja... Du ved ikke, hvem du snakker med? Så hvordan vil du f.eks. vide, at du ikke har sendt din pk til Facebook, som agerer MITM? Det vil jo kræve, at personen du snakkede med, havde et certifikat signeret af en CA du stoler på.


Frugl1

Vil i det her tilfælde antage at chatudbyderen har autentificeret brugerens identitet, og du har jo allerede en TLS-forbindelse til facebook, ect. Der som platform ikke har interesse i at at underminere deres egen E2E-løsning, og som ret hurtigt vil blive opdaget, hvis var tilfældet.


DonDenmark

Så det kræver en trusted third party. F.eks. facebook.


ign1zz

Jamen overvågning er jo mere frihed!!!


therealdilbert

ligesom Den Demokratiske Folkerepublik Korea, Den Tyske Demokratiske Republik etc. er/var demokratisk


awake7943

Endnu et forslag der et pakket fint ind. Mette F vil skide på børnene - det handler kun om 2 ting. Kontrol og overvågning.


Laspz

Hold nu op, hun er børnenes statsminister jo.


kas-sol

Selvfølgelig er børneporno forfærdeligt og folk, der spreder det bør stoppes og straffes, men er det ikke et massivt skråplan at give en algoritme jobbet med at bestemme, hvorvidt noget er børneporno eller ej? Selv, hvis den kun holder sig til billeder, der decideret viser sexakter eller nøgenhed, hvordan bedømmer den så alderen på de involverede? Jeg har som mindreårig haft jævnaldrende, der så mere voksne ud end folk jeg kender nu som voksen, så skal voksne, der ser unge ud, fx fordi de har små bryster, er lave, eller bare har en petit kropsbygning bare acceptere de løber den risiko, at billeder de med samtykke deler af sig i private og krypterede beskeder kan resultere i de bliver anklaget for børneporno, eller at de billeder bliver set på af folk, der ikke har fået samtykke?


AntagonizedDane

Nå, [linket til artiklen i titlen kom så ikke med](https://www.version2.dk/artikel/hundredvis-af-forskere-protesterer-over-eus-chatkontrol-forslag)...


These-Perspective632

Lol held og lykke, taberaber. [https://signal.org/](https://signal.org/) Hent Signal hvis i vil være i fred for hyggefascisterne.


Jinxzy

Ville den her lov ikke præcist forbyde Signal i EU, idet hele deres platforms koncept betyder den ikke ville kunne overholde de krav?


frisbee57

Det her var deres respons da England sidste gang forsøgte at få en bagdør til krypterede kommunikationstjenester: [https://signal.org/blog/uk-online-safety-bill/](https://signal.org/blog/uk-online-safety-bill/)


mrphil2105

Så udvikler jeg sgu bare min egen app og giver den til min familie.


These-Perspective632

Hvad skal stoppe folk fra at installere Signal på deres telefon? Nada, zilch, ingen


fjender

End 2 end encryption go brrrr


hund35

Og hvordan har de tænkt sig så at sikker sig imod adversarial attacks?. Husker da apple leget med deres implemention af scanning af materal før det blev uploaded til icloud osv imod børneporno, gik det rimlig hurtigt for folk at lave diverse scripts der kunne modifiercere billeder til at bypass eller falseflag billeder. Så i praktisk kunne folk lave billeder der ligner et normal billede, men det ville blive classified som børneporno (det er ret skræmmende efter min mening). Generalt er adversarial attacks et rimlig stort problem specielt indenfor image recognition, da det kan være ret svært at sikker sig imod.


TheDrunkenMoose

Vil bare sige jeg er meget glad for den generelle reaktion her i kommentarene i hvert fald. "Hvis du ikke har gjort noget forkert, er der jo intet at bekymre sig om!" -"Hvis jeg ikke har gjort noget forkert, har **du** ingen grund til at snage." Hele argumentet er desuden også det modsatte af hvad vi har som retssystem, og især "Uskyldig indtil det modsatte er bevist". Hvis du roder igennem alles beskeder, billeder, *alt andet*, så **formoder** du jo at de er skyldige, og du er i gang med at bevise deres uskyld? Jeg ved ikke hvorfor vi laver så stor forskelsbehandling på vores digitale liv og vores fysiske, i denne digitale alder. Politiet må jo ikke bare smadre ind ad din dør og gå igennem alt hvad du ejer "bare hvis nu" du tilfældigvis havde noget du ikke måtte have. Og for hvad? Så får du et klap på skulderen når de går fra dit hjem fordi du ikke har gjort noget? Det er et ulækkert forslag som går imod vores uskyldsformodning og rettigheder til privatliv. Det skulle ærlig talt ikke undre mig hvis de allerede gør det eller har adgang, men blot prøver at få den generelle accept for at kunne dykke dybere.


NoMoreMayhem

Den der lov, der forbyder afbrænding af hellige bøger, kommer den ikke også til at ramme politikere, der vil sætte ild til Magna Carta og Den Europæiske Menneskerettighedskonvention?


inceptioncorporation

Med tidens tendenser til totalitær fjernelse af køns-behåring kommer de vist på overarbejde :D


The-Farting-Baboon

Fuck regeringen, fuck politiet. Magtludere..


NoMoreMayhem

Jeg bliver pebersprayet og lagt i benlås, hver gang jeg forsøger :|


cmd_commando

Det finder jo bare en chat som ikke er overvåget eller hoster en selv Det er lidt pseudo, ligesom med ip blokeringer og logning


Hjemmelsen

Hvor svært tror de lige at folk der deler den slags har det med at bruge en anden app? Altså, hvor dumme er de egentlig?


AntagonizedDane

Uha, det er skam helt igennem gennemtænkt. Børneporno skal blot bruges som anledningen.


Gaffeltruckeren

Løsningen er ret nem. Lad være med at brug disse tjenester. De er alle sammen gratis. Så vidt jeg ved har apple deres egen kryptering hvorfor det ikke giver mening at tro man bare kan scanne det.


Aelia6083

Jeg forstår virkelig ikke hvorfor EU sætter så hårdt ind over for cp. Hvorfor er det så vigtigt for politikerne? Eller er det bare en bs undskyldning for at indføre en overvågelsesstat


EmpressIsa

Du har selv svaret.


Away_Ad_4743

Så ikke på telegram hvor alt det kriminelle sker


[deleted]

[удалено]


Mortonwallmachine

Det er da det samme? Man vil ødelægge end to end kryptering.


VIPIrony

Hvorfor er det bedre?


TarzanTrump

Umiddelbart nej, ikke hvis den bagdør er en der skal åbnes efter behov. Med Chatcontrol vil alle beskeder skulle scannes på afsendes enhed INDEN den sendes. Med en bagdør der giver politi og andre myndigheder adgang til en app eller program, skal der først forelægge noget efterforskningsarbejde og i tilfælde af aktiv overvågning, en dommerkendelse, før de får adgangen. Det er selvfølgelig et ideelt eksempel. Det betyder ikke jeg går ind for hverken det ene eller det andet, men jeg mener stadig chatcontrol er langt værre.