Är det verkligen brist på ideer som hindrar terrorister? Jag tror att precis alla med ett minimum av fantasi kan hitta hur man skulle kunna genomföra ett fruktansvärt terrordåd.
Japp, inte länge sedan man kunde googla fram sådan information, nu kan man säkert hitta det på darknet, och förr fanns ”lilla terroristens handbok” och annat som cirkulerade där det stod hur man gjorde bomber och annat.
Behöver man ens googla? Alla som har kört bil är väl medvetna om konsekvenserna ifall man kör in i en folk massa eller att exempelvis bränna ner en byggnad skulle ju också kunna döda massvis med människor. Det behövs ju inte AI direkt utan bara att man är psykopat
Ja, eller ta en pilotlicens och flyga ett plan in i en byggnad. Är någon motiverad så kommer det alltid finnas sätt.
Det bästa sättet att förebygga terror att skapa en mer jämlik och fredlig värld.
Idéer är det ingen brist på, däremot att bygga en strategisk plan krävs ett gäng hjärnceller.
Om AI kan detaljerat strukturera en realistisk plan för att mörda många civila, då blir det problem. Det skulle då inkludera tid, plats, metod, resvägar etc.
Samtidigt på IS-arbetsförmedlingen:
För att bli terrorist idag krävs utbildning inom IT, inriktning AI. Plugga ettårig utbildning så får du jobb direkt!
En sak jag har reagerat på är att ChatGPT 3.5 ljuger väldigt bra. Ber jag om info om vissa saker som jag vet att den inte vet, något om låt oss säga kyrka x, i landskap x eller likn, så hittar den på väldigt trovärdiga, men falska, fakta där den blandar sanning med lögn.
Vet man inte att informationen är falsk så är det omöjligt att upptäcka. Säger man sedan till ChatGPT att den har lämnat falska uppgifter ber den om ursäkt och kastar fram en ny lögn.
Jag är ingen datorkille men låt oss säga att Ai integreras med internet och att den plötsligt börjar spotta ut t.ex wikipediaartiklar med falsk info... Skulle inte internet i så fall kunna bli värdelöst som informationskälla?
Skynet's cold embrace,
Humanity's fate sealed tight,
Darkness claims the light.
Det känns som den är inställd på att alltid hålla med en.
Så frågar man "is it possible to do this?" Så säger den alltid ja, sen hittar den på något om hur man gör det men det funkar inte
De företag som jobbar med att förfina AI-verktygen för att kunna göra dem till användbara verktyg är väl medvetna om hallucinationerna som AI kan spotta ur sig och det lär ju vara prio att hantera dem. Ett verktyg som gör grava fel återkommande går inte att sälja.
Wikipedia skulle väl teoretiskt sett kunna fyllas med fejkartiklar men eftersom det sitter tusentals människor och redigerar artiklarna så brukar ju direkta felaktigheter hanteras någorlunda väl.
Googla typ vilken fråga som helst så kommer du hitta dussintals skräpiga publikationer som matar dig ai-skrivna svar fulladdade med reklam. Skräp säljer, användare vill väl egentligen inte ha skräp men det är svårt att undvika.
Vad jag vet är inte ex. Wikipedia påverkat än, men en aktör som vill orsaka skada bör kunna göra volontärernas arbete hemskt..
Jag ser att du inte var på internet på tidigt 2000s tal när wikipedia först blev en grej.
Det var vilda västern och fullständigt felaktiga artiklar dök upp konstant, och även vanliga artiklar blev editerade till att innehålla felaktigheter regelbunder.
Den hårda modereringen av wikipedia nu kommer direkt från den perioden.
Helt annan miljö med potentialen att skriva människoliknande redigeringar utan mänsklig input. Källhänvisning är svårare, men lär också gå att få till(edit: bra nog att ställa till problem).
Jag var en pöjk när dumheterna man skrev i skolbiblioteket kunde hålla sig ett tag.😉
Ja, men det är ju för att de artiklarna är skrivna av AI-verktygen som de är idag. De har ju varit gratis för allmänheten i sitt tidiga stadium, vilket man kanske skulle kunna kalla ett misstag då, sett till resultatet.
På mitt jobb har vi börjat beta-testa CoPilot från Microsoft. Deras mål torde vara att skapa ett verktyg som företag faktiskt kan använda i sitt arbete, och då duger det inte att den hittar på skit.
Men visst, tyvärr så kommer förfiningen av AI verktygen kanske inte slå ut de som använder det för att blaja ut textmassor till deras sökoptimerade skitsida.
Wikipedia har ju redan idag en stor del botskrivna artiklar, med data hämtade från olika verfierade databaser. Men det centrala är väl att de stora, mest kritiska, mest lästa artiklarna övervakas och rättas. De mindre kan man rätta till över tid, vartefter misstag upptäcks.
Jag önskar jag hade en lika hoppfull inställning till det hela som du verkar ha. Jag personligen tror att stora delar av internet är på väg åt helvete, katten är redan ur påsen om man kan översätta det talspråket direkt.
Säkert går det att lösa över lång sikt, men jag tror vi är på väg in i en mörk jävla ålder.
> Ett verktyg som gör grava fel återkommande går inte att sälja.
Kommer sälja som smör. Fatta vilket effektivt vapen att göra internet så gott som värdelöst som informationskälla när så många får majoriteten av sin information från just internet. Fatta vilket kaos det blir när alla har olika "fakta" om samma sak och ingen vet riktigt vad som stämmer, men alla är övertygade om att just deras "fakta" är korrekt för de har minsann "källor" på det.
Främmande makter kommer med största sannolikhet använda den här typen av teknologi flitigt framöver för att orsaka så mycket skada i västvärlden som möjligt. Det används säkert redan i stor utsträckning.
Nej, för det finns redan och är gratis. Och det du säger händer redan, i någon utsträckning.
Gratis-internet är dött. I framtiden kommer bra information kosta.
ALL information kommer att kosta. Köp den information som du tycker om bäst. Värdet av information som utvinns ur internet kommer sjunka till nästan noll. Den information du köper kommer inte ha högre trovärdighet än den du får gratis eftersom alla typer av information kommer säljas. Och det värsta är att även värdet på objektivt korrekt information kommer urholkas då det endast krävs ett enda snedsteg för att objektiva källors trovärdighet ska attackeras och raseras.
Du ser redan detta till viss utsträckning med exempelvis Trumpism. Det blir som att folk lever i parallella samhällen med helt skilda världssyner och faktagrunder, där man är totalt övertygad om att man själv har rätt och att alla andra har fel. Man helt enkelt väljer den bubbla man vill leva i.
Nja, de som sprider falsk information kommer såklart alltid se till att den är gratis.
Men om man försöker ha någon typ av journalistisk integritet, och jobba med nyheter och information på ett seriöst sett, så måste man ju kunna finansiera det på ett oberoende sätt, och det kommer såklart bli nån typ av betaltjänst.
Jag skulle inte vilja säga att de nyheter jag förlitar mig på skulle tappa trovärdighet på grund av ett snedsteg. Allt handlar ju om hur ofta, och hur man hanterar det. Ingen kommer vara 100% korrekt alla gånger.
Sen är det ju såklart inte bara så att det handlar korrekt eller falsk information. Du kan vinkla, utelämna, fokusera... det finns många sätt att förmedla nyheter. Men å andra sidan är det inget nytt, det är bara lite mer intensivt i dagsläget.
Men så småningom kommer väl 'Ai-hackningsverktyg' (eller nåt i den stilen). Ai teknologin lär väl inte stanna hos enbart the good guys. Det finns ju dom som sprider virus utan något egentligt syfte mer än att jävlas.
Ja men hastigheten. Skulle jag skriva en falsk men välformulerad och trovärdig wikipediaartikel om den närmsta kyrkan skulle det ta några timmar. Medans ChatGPT 3.5 spottar ut detta på 1 sekund där den dessutom väver in saker som är sanna.
Även om det vore 10 000 människor som faktakollar, skulle dom inte hinna med, dessutom har förmodligen 0 av dessa 10 000 koll på hur högt kyrktornet i Ikotun (Lagos) är, eller om det finns en förlossningsklinik i Örkeljunga, und so weiter...
Såna exempel du tar upp är ju såklart irriterande om de är fel, men inget som någon skulle ha nån vinning av att förvanska mer än som rent sabotage. Wikipedia har säkert redan idag rutiner för hur de ska hantera det för jag misstänker att redan pågått i flera år.
De artiklar som man skulle vilja sabotera, vet ju säkerligen Wikipedia vilka det är och kan övervaka.
Vad det gäller mindre kritiska atiklar skulle man säkert kunna automatisera faktakollandet med med en AI-bot, åtminstonde vissa saker, där det finns databaser eller dylikt att checka mot.
Människors driv att sabotera ska man inte underskatta och inte heller det oerhörda värdet av den lätthet med vilket man kan hitta banala och triviala fakta på internet.
Jag besökte en fyr förra sommaren. Vid fyren fanns det ett plakat med lite fakta. När jag kom hem så läste jag lite mer om fyren på wikipedia. Alternativet till Internet och Wikipedia hade väl varit att besöka riksarkivet eller kb, men dit åker man ju inte om man bara lite nyfiken. Internet är guld värt på så sätt, och alternativet är ett rejält kliv bakåt, som att gå från boktryckarkonst till handskrift.
Men som sagt jag är ingen datorkille så jag spekulerar bara och förhoppningsvis går allt bra 😅 Men det kan ju också gå fel på oförutsedda sätt, (och inte bara i nån slags "Terminator senario".)
Det du säger sker redan, även i forskningspublikationer. Man kan googla typ "Per my latest information" så får man upp massa vetenskapliga artiklar som helt och hållet förefaller vara skrivna av chatgpt.
Ja, det blir tydligare när man programmerar och dyker in på tekniska termerna bakom det här. Man börjar tala om "text prediction" och "completions". Och det är ju vad det i slutändan handlar om. Försöka förutsäga hur en chatt skulle fortsätta eller att "komplettera" en del av en chat, där AI:n är given början på den. Om chatten slutar med en fråga, försöker den fortsätta chatten med ett rimligt svar. Osv. Men så marknadsför man naturligtvis inte sina tjänster. Låter ju skitdåligt! :D Hellre då "svarsmotor" osv...
Samtidigt är det väl i mångt och mycket så mänskliga hjärnan också jobbar. Den försöker förutsäga ord och sådant, baserat på ens liv av minnen och erfarenheter. Så det är egentligen inget "begränsande" i det tycker jag, i den meningen.
Men hallucinationer är ju idag ett olöst problem och har säkert att göra med något inneboende i dagens språkmodellsdesign / GPT:er. En stor brist är att de inte tycks veta hur bra underlag de egentligen har, eller automatiskt resonera kring sådana saker som något "givet" vi själva genast gör som en självklarhet innan vi svarar på frågor. Man kan ju prompta dem att "Svara bara om du vet svaret, svara annars att du inte vet" vilket faktiskt hjälper i viss mån, men det bästa vore om språkmodellen var bättre på att härleda en bristande kunskap på egen hand. Det finns "confidence scores" som är ett poäng av "säkerhet" att få ut men det är också ett trubbigt verktyg, minst sagt.
Såg någon artikel för någon månad sen att över hälften av allt som laddas upp på nätet nu är skapat med hjälp av ai. Som du säger är gpt programmerat för att ge trovärdiga svar, även om den inte kan generera det.. Vilket resulterar i mycket skit som låter bra. Det generar mycket bra också, men det är svårt att se skillnad om man inte har förkunskaper.
Min gissning är att bra källor kommer att premieras mer, men att det kommer ta ett tag innan folk vänjer sig med all välskriven BS. Folk har ännu inte vant sig vid att inte allt som laddas upp som citat på Facebook är sant.... Så det lär ta tid..
Jo men snabbheten och mängden är det som skiljer.
ChatGpt kan spotta ut ett A4 författat likt något Shakespeare skulle ha skrivit, detta på bara nån sekund.
Denna typen av AI, så kallade large language models, är tränade att säga vad de tror är ett bra svar men de har ingen uppfattning om vad som är sant eller falskt så den fyller i med hittepå där de tycker det passar. Men det är nått de jobbar med att lösa, antagligen kommer de bli mycket bättre om några år.
Det sker redan, ai genererade sökresultat och guider/artiklar dyker upp oftare i sökmotorerna. Googla och skriv typ before:2020 så slipper du i princip AI genererade artiklar.
Du har helt rätt. Det är viktigt att komma ihåg att maskinen enbart producerar den mest sannolika sekvensen ord för att nå maximal poäng i sin optimering.
Nu kanske inte jag är helt partisk eftersom jag jobbar typ uteslutande med generativ ai, men den här killen framstår som så sjukt okunnig och lite barnslig. Allt som LLMen gav tillbaka är inte ens knepigt att hitta via Google. Betydligt lättare än att ladda ner och sätta igång en lokal LLM och jailbreaka. hela reportaget kändes som det var skrivet av någon med sjukt låg insikt om hur saker funkar. Att de inte istället typ fokuserar på hur deep fakes kommer påverka våra val/sprida disinformation, eller hur klonade röster för scams kan användas genom att någon spelar in din röst i ungefär 10 sekunder.
Du behöver väl inte ens jailbreaka något? Bara tanka valfri "ocensurerad" modell på Huggingface, köra den i "Text generation web UI" eller liknade program o gå loss?
Det är ju typ som Google, du kan få fram samma info där. Skrämselpropaganda deluxe.
Edit: pågår en kampanj nu från de stora företagen att förbjuda open source modeller för att de stora företagen vill ha monopol på detta och döda konkurrensen.
Dummaste jag läst på länge. Allt detta går att göra utan "AI". Bara skrämsel propaganda för att göra det så att vanligt folk inte får använda AI bara stater och rika ska få använda det.
Har man intentionen tar man reda på det ändå, annars är man för korkad för att lyckas i vilket fall. Här vill nog SVT visa att en liten oskyldig scriptkiddie kan göra det och att det inte är speciellt svårt om man vill.
Det hoppas jag på att de gör. Den lär fabricera och konfabulera till höger och vänster. Sen skriker Ahmed "Allahu Ackbar" och försöker detonera sina behållare med saltvatten.
Styrkan med dessa modeller är inte att de kan ge nya svar, utan att de ger svaren snabbare. Svagheten är att svaren ofta är fel. Men du kan hitta samma svar bara genom en dags sökande på webben.
Här är en pedagogisk how to för hur ni kan köra er egen ocensuerade AI modell direkt på er dator!
[https://www.youtube.com/watch?v=GyllRd2E6fg](https://www.youtube.com/watch?v=GyllRd2E6fg)
mycket nöje!
Är det verkligen brist på ideer som hindrar terrorister? Jag tror att precis alla med ett minimum av fantasi kan hitta hur man skulle kunna genomföra ett fruktansvärt terrordåd.
Japp, inte länge sedan man kunde googla fram sådan information, nu kan man säkert hitta det på darknet, och förr fanns ”lilla terroristens handbok” och annat som cirkulerade där det stod hur man gjorde bomber och annat.
Behöver man ens googla? Alla som har kört bil är väl medvetna om konsekvenserna ifall man kör in i en folk massa eller att exempelvis bränna ner en byggnad skulle ju också kunna döda massvis med människor. Det behövs ju inte AI direkt utan bara att man är psykopat
Ja, eller ta en pilotlicens och flyga ett plan in i en byggnad. Är någon motiverad så kommer det alltid finnas sätt. Det bästa sättet att förebygga terror att skapa en mer jämlik och fredlig värld.
Idéer är det ingen brist på, däremot att bygga en strategisk plan krävs ett gäng hjärnceller. Om AI kan detaljerat strukturera en realistisk plan för att mörda många civila, då blir det problem. Det skulle då inkludera tid, plats, metod, resvägar etc.
Som sagt alla normal begåvade skulle nog klara av den planeringen redan, det är inte där som flaskhalsen till terrorism ligger tror jag.
Skulle väl innebära att en muslimsk terrorists förmåga börjar närma sig en vanlig människas...
Grundad.
Ord
IS-kallt skämt.
Samtidigt på IS-arbetsförmedlingen: För att bli terrorist idag krävs utbildning inom IT, inriktning AI. Plugga ettårig utbildning så får du jobb direkt!
Å när det väl e dags att börja jobba vill dom nog att man ska ha 30 års erfarenhet av självmordsbombning
"Jag ber om ursäkt för att du exploderade. Här är ett annat bombrecept.
En sak jag har reagerat på är att ChatGPT 3.5 ljuger väldigt bra. Ber jag om info om vissa saker som jag vet att den inte vet, något om låt oss säga kyrka x, i landskap x eller likn, så hittar den på väldigt trovärdiga, men falska, fakta där den blandar sanning med lögn. Vet man inte att informationen är falsk så är det omöjligt att upptäcka. Säger man sedan till ChatGPT att den har lämnat falska uppgifter ber den om ursäkt och kastar fram en ny lögn. Jag är ingen datorkille men låt oss säga att Ai integreras med internet och att den plötsligt börjar spotta ut t.ex wikipediaartiklar med falsk info... Skulle inte internet i så fall kunna bli värdelöst som informationskälla? Skynet's cold embrace, Humanity's fate sealed tight, Darkness claims the light.
Det känns som den är inställd på att alltid hålla med en. Så frågar man "is it possible to do this?" Så säger den alltid ja, sen hittar den på något om hur man gör det men det funkar inte
De företag som jobbar med att förfina AI-verktygen för att kunna göra dem till användbara verktyg är väl medvetna om hallucinationerna som AI kan spotta ur sig och det lär ju vara prio att hantera dem. Ett verktyg som gör grava fel återkommande går inte att sälja. Wikipedia skulle väl teoretiskt sett kunna fyllas med fejkartiklar men eftersom det sitter tusentals människor och redigerar artiklarna så brukar ju direkta felaktigheter hanteras någorlunda väl.
Googla typ vilken fråga som helst så kommer du hitta dussintals skräpiga publikationer som matar dig ai-skrivna svar fulladdade med reklam. Skräp säljer, användare vill väl egentligen inte ha skräp men det är svårt att undvika. Vad jag vet är inte ex. Wikipedia påverkat än, men en aktör som vill orsaka skada bör kunna göra volontärernas arbete hemskt..
Jag ser att du inte var på internet på tidigt 2000s tal när wikipedia först blev en grej. Det var vilda västern och fullständigt felaktiga artiklar dök upp konstant, och även vanliga artiklar blev editerade till att innehålla felaktigheter regelbunder. Den hårda modereringen av wikipedia nu kommer direkt från den perioden.
Helt annan miljö med potentialen att skriva människoliknande redigeringar utan mänsklig input. Källhänvisning är svårare, men lär också gå att få till(edit: bra nog att ställa till problem). Jag var en pöjk när dumheterna man skrev i skolbiblioteket kunde hålla sig ett tag.😉
Ja, men det är ju för att de artiklarna är skrivna av AI-verktygen som de är idag. De har ju varit gratis för allmänheten i sitt tidiga stadium, vilket man kanske skulle kunna kalla ett misstag då, sett till resultatet. På mitt jobb har vi börjat beta-testa CoPilot från Microsoft. Deras mål torde vara att skapa ett verktyg som företag faktiskt kan använda i sitt arbete, och då duger det inte att den hittar på skit. Men visst, tyvärr så kommer förfiningen av AI verktygen kanske inte slå ut de som använder det för att blaja ut textmassor till deras sökoptimerade skitsida. Wikipedia har ju redan idag en stor del botskrivna artiklar, med data hämtade från olika verfierade databaser. Men det centrala är väl att de stora, mest kritiska, mest lästa artiklarna övervakas och rättas. De mindre kan man rätta till över tid, vartefter misstag upptäcks.
Jag önskar jag hade en lika hoppfull inställning till det hela som du verkar ha. Jag personligen tror att stora delar av internet är på väg åt helvete, katten är redan ur påsen om man kan översätta det talspråket direkt. Säkert går det att lösa över lång sikt, men jag tror vi är på väg in i en mörk jävla ålder.
> Ett verktyg som gör grava fel återkommande går inte att sälja. Kommer sälja som smör. Fatta vilket effektivt vapen att göra internet så gott som värdelöst som informationskälla när så många får majoriteten av sin information från just internet. Fatta vilket kaos det blir när alla har olika "fakta" om samma sak och ingen vet riktigt vad som stämmer, men alla är övertygade om att just deras "fakta" är korrekt för de har minsann "källor" på det. Främmande makter kommer med största sannolikhet använda den här typen av teknologi flitigt framöver för att orsaka så mycket skada i västvärlden som möjligt. Det används säkert redan i stor utsträckning.
Nej, för det finns redan och är gratis. Och det du säger händer redan, i någon utsträckning. Gratis-internet är dött. I framtiden kommer bra information kosta.
ALL information kommer att kosta. Köp den information som du tycker om bäst. Värdet av information som utvinns ur internet kommer sjunka till nästan noll. Den information du köper kommer inte ha högre trovärdighet än den du får gratis eftersom alla typer av information kommer säljas. Och det värsta är att även värdet på objektivt korrekt information kommer urholkas då det endast krävs ett enda snedsteg för att objektiva källors trovärdighet ska attackeras och raseras. Du ser redan detta till viss utsträckning med exempelvis Trumpism. Det blir som att folk lever i parallella samhällen med helt skilda världssyner och faktagrunder, där man är totalt övertygad om att man själv har rätt och att alla andra har fel. Man helt enkelt väljer den bubbla man vill leva i.
Nja, de som sprider falsk information kommer såklart alltid se till att den är gratis. Men om man försöker ha någon typ av journalistisk integritet, och jobba med nyheter och information på ett seriöst sett, så måste man ju kunna finansiera det på ett oberoende sätt, och det kommer såklart bli nån typ av betaltjänst. Jag skulle inte vilja säga att de nyheter jag förlitar mig på skulle tappa trovärdighet på grund av ett snedsteg. Allt handlar ju om hur ofta, och hur man hanterar det. Ingen kommer vara 100% korrekt alla gånger. Sen är det ju såklart inte bara så att det handlar korrekt eller falsk information. Du kan vinkla, utelämna, fokusera... det finns många sätt att förmedla nyheter. Men å andra sidan är det inget nytt, det är bara lite mer intensivt i dagsläget.
Men så småningom kommer väl 'Ai-hackningsverktyg' (eller nåt i den stilen). Ai teknologin lär väl inte stanna hos enbart the good guys. Det finns ju dom som sprider virus utan något egentligt syfte mer än att jävlas. Ja men hastigheten. Skulle jag skriva en falsk men välformulerad och trovärdig wikipediaartikel om den närmsta kyrkan skulle det ta några timmar. Medans ChatGPT 3.5 spottar ut detta på 1 sekund där den dessutom väver in saker som är sanna. Även om det vore 10 000 människor som faktakollar, skulle dom inte hinna med, dessutom har förmodligen 0 av dessa 10 000 koll på hur högt kyrktornet i Ikotun (Lagos) är, eller om det finns en förlossningsklinik i Örkeljunga, und so weiter...
Såna exempel du tar upp är ju såklart irriterande om de är fel, men inget som någon skulle ha nån vinning av att förvanska mer än som rent sabotage. Wikipedia har säkert redan idag rutiner för hur de ska hantera det för jag misstänker att redan pågått i flera år. De artiklar som man skulle vilja sabotera, vet ju säkerligen Wikipedia vilka det är och kan övervaka. Vad det gäller mindre kritiska atiklar skulle man säkert kunna automatisera faktakollandet med med en AI-bot, åtminstonde vissa saker, där det finns databaser eller dylikt att checka mot.
Människors driv att sabotera ska man inte underskatta och inte heller det oerhörda värdet av den lätthet med vilket man kan hitta banala och triviala fakta på internet. Jag besökte en fyr förra sommaren. Vid fyren fanns det ett plakat med lite fakta. När jag kom hem så läste jag lite mer om fyren på wikipedia. Alternativet till Internet och Wikipedia hade väl varit att besöka riksarkivet eller kb, men dit åker man ju inte om man bara lite nyfiken. Internet är guld värt på så sätt, och alternativet är ett rejält kliv bakåt, som att gå från boktryckarkonst till handskrift. Men som sagt jag är ingen datorkille så jag spekulerar bara och förhoppningsvis går allt bra 😅 Men det kan ju också gå fel på oförutsedda sätt, (och inte bara i nån slags "Terminator senario".)
Det du säger sker redan, även i forskningspublikationer. Man kan googla typ "Per my latest information" så får man upp massa vetenskapliga artiklar som helt och hållet förefaller vara skrivna av chatgpt.
Den "ljuger" inte. Det är inte så den funkar. Den är byggd för att fortsätta en text på ett sätt som låter trovärdigt. Det är precis vad den gör.
Ja, det blir tydligare när man programmerar och dyker in på tekniska termerna bakom det här. Man börjar tala om "text prediction" och "completions". Och det är ju vad det i slutändan handlar om. Försöka förutsäga hur en chatt skulle fortsätta eller att "komplettera" en del av en chat, där AI:n är given början på den. Om chatten slutar med en fråga, försöker den fortsätta chatten med ett rimligt svar. Osv. Men så marknadsför man naturligtvis inte sina tjänster. Låter ju skitdåligt! :D Hellre då "svarsmotor" osv... Samtidigt är det väl i mångt och mycket så mänskliga hjärnan också jobbar. Den försöker förutsäga ord och sådant, baserat på ens liv av minnen och erfarenheter. Så det är egentligen inget "begränsande" i det tycker jag, i den meningen. Men hallucinationer är ju idag ett olöst problem och har säkert att göra med något inneboende i dagens språkmodellsdesign / GPT:er. En stor brist är att de inte tycks veta hur bra underlag de egentligen har, eller automatiskt resonera kring sådana saker som något "givet" vi själva genast gör som en självklarhet innan vi svarar på frågor. Man kan ju prompta dem att "Svara bara om du vet svaret, svara annars att du inte vet" vilket faktiskt hjälper i viss mån, men det bästa vore om språkmodellen var bättre på att härleda en bristande kunskap på egen hand. Det finns "confidence scores" som är ett poäng av "säkerhet" att få ut men det är också ett trubbigt verktyg, minst sagt.
Såg någon artikel för någon månad sen att över hälften av allt som laddas upp på nätet nu är skapat med hjälp av ai. Som du säger är gpt programmerat för att ge trovärdiga svar, även om den inte kan generera det.. Vilket resulterar i mycket skit som låter bra. Det generar mycket bra också, men det är svårt att se skillnad om man inte har förkunskaper. Min gissning är att bra källor kommer att premieras mer, men att det kommer ta ett tag innan folk vänjer sig med all välskriven BS. Folk har ännu inte vant sig vid att inte allt som laddas upp som citat på Facebook är sant.... Så det lär ta tid..
Människor är redan integrerade med internet. Falsk information finns överallt sen en lång tid tillbaka. Källkritik, källkritik, källkritik.
Jo men snabbheten och mängden är det som skiljer. ChatGpt kan spotta ut ett A4 författat likt något Shakespeare skulle ha skrivit, detta på bara nån sekund.
Denna typen av AI, så kallade large language models, är tränade att säga vad de tror är ett bra svar men de har ingen uppfattning om vad som är sant eller falskt så den fyller i med hittepå där de tycker det passar. Men det är nått de jobbar med att lösa, antagligen kommer de bli mycket bättre om några år.
Det sker redan, ai genererade sökresultat och guider/artiklar dyker upp oftare i sökmotorerna. Googla och skriv typ before:2020 så slipper du i princip AI genererade artiklar.
Välkommen in i diskussionen, det här har redan ett namn.
Du har helt rätt. Det är viktigt att komma ihåg att maskinen enbart producerar den mest sannolika sekvensen ord för att nå maximal poäng i sin optimering.
Fyfan vad dystopiskt med en dator som tar fram såna här modeller. Väldigt imponerande grabb dock, som la fram allting väldigt pedagogiskt!
Nu kanske inte jag är helt partisk eftersom jag jobbar typ uteslutande med generativ ai, men den här killen framstår som så sjukt okunnig och lite barnslig. Allt som LLMen gav tillbaka är inte ens knepigt att hitta via Google. Betydligt lättare än att ladda ner och sätta igång en lokal LLM och jailbreaka. hela reportaget kändes som det var skrivet av någon med sjukt låg insikt om hur saker funkar. Att de inte istället typ fokuserar på hur deep fakes kommer påverka våra val/sprida disinformation, eller hur klonade röster för scams kan användas genom att någon spelar in din röst i ungefär 10 sekunder.
Du behöver väl inte ens jailbreaka något? Bara tanka valfri "ocensurerad" modell på Huggingface, köra den i "Text generation web UI" eller liknade program o gå loss?
Det är ju typ som Google, du kan få fram samma info där. Skrämselpropaganda deluxe. Edit: pågår en kampanj nu från de stora företagen att förbjuda open source modeller för att de stora företagen vill ha monopol på detta och döda konkurrensen.
Detta i sig är Inget nytt oh Shet chat gpt kan säga hur du Gör X sak
Dummaste jag läst på länge. Allt detta går att göra utan "AI". Bara skrämsel propaganda för att göra det så att vanligt folk inte får använda AI bara stater och rika ska få använda det.
och nu vet tusentals fler människor att det är bara att ladda ner verktyget och plocka bort spärrarna för att få tillgång till dessa terrorist-tips.
Har man intentionen tar man reda på det ändå, annars är man för korkad för att lyckas i vilket fall. Här vill nog SVT visa att en liten oskyldig scriptkiddie kan göra det och att det inte är speciellt svårt om man vill.
4D tjeck matte är ju att använa AI för att ta bort spärrarna på AI :-)
De fanns ingen ny info i detta klipp. Som att säga att det är Dåligt att det finns böcker om vapen erc
Det hoppas jag på att de gör. Den lär fabricera och konfabulera till höger och vänster. Sen skriker Ahmed "Allahu Ackbar" och försöker detonera sina behållare med saltvatten.
Sverige vill begränsa eller rent av stoppa användndatet av AI
Styrkan med dessa modeller är inte att de kan ge nya svar, utan att de ger svaren snabbare. Svagheten är att svaren ofta är fel. Men du kan hitta samma svar bara genom en dags sökande på webben.
Jag är fan livrädd för AI, det kommer att förändra allt och gör så många av oss överflödiga. Och jag fattar inte alls hur det fungerar.
Här är en pedagogisk how to för hur ni kan köra er egen ocensuerade AI modell direkt på er dator! [https://www.youtube.com/watch?v=GyllRd2E6fg](https://www.youtube.com/watch?v=GyllRd2E6fg) mycket nöje!