Sitat av
Rosander
Dens evner til å være søkemotor er både gode og veldig dårlige.
Jeg ser enorme muligheter for å manipulere en AI om den benytter brukergenerert innhold som treningsdata.
Hvordan skal en ai feks vurdere troverdigheten til kilder om ukrainakrigen?
Denne type ai bruker sannsynligjetsberegninger når den foreslår innhold, klarer du å genere nok spam som bekrefter en påstand så vil du kunne lure den.
Alternativet blir da å lage masse manuelle regler og i praksis drive sensur for å kunne vise data som er pålitelig.
Selv google med sine avanserte algoritmer klarer ikke filtrere søkeresultatene 100%.
Det er ikke alltid svaret på stack overflow med flest upvotes er det riktige svaret.
Sitat fra linken jeg postet over her:
Jeg stoler ikke på en ai som søkemotor, jeg ønsker å utføre kildekritikk selv.
Enig i dette. Foreløpig er det en god søkemotor fordi nettet fortsatt er nokså "uskyldig" det vil si at det enda ikke er pumpet ut enorme mengder data for å manipulere AI'ene. AI vil gjøre internett til et enda mer forvirrende sted, det vil bli vanskelig å skille mellom AI generert og menneskeskapt innhold, og om man faktisk snakker med et menneske eller en AI.
En løsning på dette er å i mye større grad overflytte databaser til blokkjeder. Blokkjeder er åpne databaser som ikke kan forfalskes og hvor alt som noensinne har skjedd ligger tilgjengelig for allmennheten. Jeg kan se for meg at innhold vil bli mistenkeliggjort uten at det er 100% bevist at det er menneskeskapt i fremtiden.
På Ethereum blokkjeden finnes det allerede en elegant løsning på dette; Proof of Humanity. Nettopp en identifiseringstoken som beviser at du er et menneske. Med denne måten kan du bevise at du er et menneske, samtidig som at AI'er kan trene på verifiserte mennesker og ikke AI-generert ræl som ikke vil tilføre AI'en noen nytt og fornuftig.
Sist endret av Cheese; 27. desember 2022 kl. 22:18.