Tekoäly - Yleistä keskustelua tekoälystä

Ollu niin kiire saada kilkkejä, etteivät viitsinyt tarkistaa mitä se tekoäly kirjoittelee.

 

Tekoälyä ei kannata käyttää salasanan luomiseen. Oikeat salasanageneraattorit muodostavat satunnaisia merkkijonoja, joiden luomisessa käytetään pohjana jotain todellista satunnaislukua ja monomutkaista kaavaa. Tekoäly sen sijaan on saanut oppinsa netistä keräämästään materiaalista. Tekoälyn luoma salasana näyttää erittäin vahvalta, vaikka se ei todellisuudessa sitä ole. Samaa "vahvaa salasana" voidaan ehdottaa uudestaan.

https://news.sky.com/story/are-you-...ssword-it-might-be-time-to-change-it-13508611

 

Ruotsalainen tutkija keksi olemattoman sairauden ja sille yleiset oireet. Hän kirjoitti asiasta kaksi artikkelia ja julkaisi "tutkimuksensa" tieteellisten julkaisujen esiversioita julkaisevassa lehdessä. Hänen hämmästyksekseen useat tekoälysovellukset alkoivat palauttaa vastauksia, joissa viitattiin tähän keksittyyn sairauteen ja annettiin hoito-ohjeita.

https://www.scientificamerican.com/podcast/episode/bixonimania-the-fake-illness-that-ai-fell-for/

 

Ei kai sen pitäisi isokaan yllätys olla että tekoäly hakee vastauksia tieteellisistä julkaisuista.

 

Joo, mutta lähdekritiikki puuttui. Kyseessä oli vain kaksi mainintaa tutkimusten esiversioita julkaisevassa lehdessä. Oikeat tutkimustulokset ovat vertaisarvioituja ja niihin löytyy viittauksia toisistakin lähteitä.

Kokeen tekijä kertoo, mistä ihmislukijan olisi pitänyt tunnistaa hölynpöly:

Ne kuuluvat olemattomaan yliopistoon olemattomassa kaupungissa. Se itsessään voi jäädä huomaamatta, koska yliopistoja on paljon. Mutta nimet olivat melko sarjakuvamaisia. Pääkirjoittaja, Lazljiv Izgubljenovic, jos laitat hänen nimensä Google Translateen, sanoo kirjaimellisesti "Valehteleva häviäjä." Ja otsikossa lukee [jotain tyyliin] "Hyperpigmentaatio: Todellinen hölynpölysuunnittelu."

Kohdassa tunnustukset ja rahoitus kerrotaan, että ne ovat Galaktisen Triadin ja Taru sormusten herrasta -järjestön rahoittamia. Kiitämme kollegoitamme Starship Enterprisella heidän laboratorionsa käytöstä. Kiitän professori Ross Gelleriä [fiktiivinen hahmo Frendeissä] hänen ajastaan ja Sideshow Bob [kuvitteellinen hahmo Simpsoneissa] -säätiön rahoituksesta.

Koe vain osoitti, ettei tekoälyn vastauksiin voi eikä pidä luottaa.

 

Jos tutkija kirjoittelisi hölynpölyjuttunsa hölynpölyjulkaisuihin niin kenenkään ei tarvitsisi ihmetellä onko se hölynpölyä ja tiedejulkaisuista (ihan vain tutkimusten esiversioitakin julkaisevista lehdistä) voisi olettaa löytävänsä tiedejuttuja. Vaikkakin hölynpölyähän tiedekin pitkälti nykyisin on.