Je tu v Silicon Valley prebieha veľká debata o umelej inteligencii a nanešťastie sú v stávke dosť vysoké: Budeme náhodou postaviť super inteligentné A.I. ktorá sa na nás obráti a všetkých nás zabije alebo zotročí?
Môže to znieť ako scenár letného filmu o katastrofe, ale znepokojil niektoré pekné mená, od Elona Muska po neskorú Stephen Hawking .
„Povedzme, že vytvoríte samo-vylepšujúce sa A.I. zbierať jahody “ Musk povedal , vysvetľujúc svoje obavy, „a bude stále lepšie a lepšie zbierať jahody a zbierať stále viac a viac a zdokonaľuje sa to, takže všetko, čo skutočne chce, je zbierať jahody. Takže potom by to mal byť na celom svete jahodové polia. Jahodové polia naveky.' Ľudia v ceste tejto jahodovej pacalypse by boli len postrádateľným dráždidlom pre A.I.
Ľudia by však určite neboli takí hlúpi, aby náhodou navrhli A.I. prinútený zmeniť celú civilizáciu na jednu obrovskú bobuľovú farmu? Možno nie, ale ako Janelle Shane , výskumník, ktorý trénuje neurónové siete, typ algoritmu strojového učenia, o ktorom sa nedávno zmienil jej blog, A.I. Podivnosť , je celkom možné, že by to mohli urobiť omylom.
V skutočnosti by to nebolo vôbec prvýkrát, čo by si ľudia mysleli, že stavajú robotov na jednu úlohu, len aby sa otočili a zistili, že roboty hrajú systém spôsobom, ktorý nikdy nezamýšľali. Fascinujúci príspevok sa prehĺbi do akademickej literatúry, aby sa podelil o niekoľko príkladov divokých robotov. Sú vtipné, chytré a spolu sú viac ako trochu strašidelné.
1. Kto potrebuje nohy, keď môžeš padať?
„Simulovaný robot sa mal vyvinúť tak, aby cestoval čo najrýchlejšie. Namiesto vyvinutia nôh sa ale jednoducho zhromaždilo do vysokej veže a potom spadlo. Niektorí z týchto robotov sa dokonca naučili zmeniť svoj padajúci pohyb na salto a pridať tak ďalšiu vzdialenosť, “píše Shane.
2. Robot, ktorý môže-môže.
„Ďalšia sada simulovaných robotov sa mala vyvinúť do formy, ktorá dokáže skákať. Programátor však pôvodne definoval skokovú výšku ako výšku najvyššieho bloku, takže - opäť - sa roboty vyvinuli ako veľmi vysoké, “vysvetľuje Shane. „Programátor sa to pokúsil vyriešiť definovaním výšky skoku ako výšky bloku, ktorá bola pôvodne„ najnižšia “. Ako odpoveď na to robot vyvinul dlhú chudú nohu, ktorú by mohol kopnúť vysoko do vzduchu v akejsi plechovke robota. ““
3. Skryte test a nemôžete v ňom zlyhať.
„Existoval algoritmus, ktorý mal triediť zoznam čísel. Namiesto toho sa naučila zoznam vymazať, aby už nebol technicky netriedený, “hovorí Shane.
4. Matematické chyby porazili tryskové palivo.
„V jednej simulácii sa roboty dozvedeli, že malé chyby zaokrúhlenia v matematike, ktoré počítali sily, znamenali, že pohybom dostali trochu energie navyše. Naučili sa rýchlo šklbať a generovať množstvo voľnej energie, ktorú mohli využiť, “hovorí Shane. Hej, to je podvádzanie!
5. Neporaziteľná (ak je deštruktívna) stratégia tic-tac-toe.
Akonáhle skupina „programátorov vytvorila algoritmy, ktoré dokázali na diaľku proti sebe hrať tic-tac-toe na nekonečne veľkej doske,“ poznamenáva Shane. „Jeden programátor namiesto navrhovania stratégie svojho algoritmu nechal vyvinúť svoj vlastný prístup. Prekvapivo algoritmus zrazu začal vyhrávať všetky svoje hry. Ukázalo sa, že stratégiou algoritmu bolo umiestniť svoj pohyb veľmi, veľmi ďaleko, takže keď sa počítač jeho súpera pokúsil simulovať novú značne rozšírenú dosku, veľká hracia doska by spôsobila, že by jej došlo pamäť a došlo by k jej zrúteniu, čo by prepadlo hra.'
6. Žiadna užitočná herná chyba nebude nevyužitá.
„Algoritmy na hranie počítačových hier sú skutočne dobré na objavenie toho, aké závady Matrixu sa ľudia zvyčajne naučia využívať na rýchly beh. Algoritmus hrajúci starú hru Atari Q * bert objavil predtým neznámu chybu, pri ktorej mohol na konci jednej úrovne vykonať veľmi špecifickú sériu pohybov a namiesto prechodu na ďalšiu úroveň všetky platformy začali rýchlo blikať a hráč by začal hromadiť obrovské množstvo bodov, “hovorí Shane.
7. Prepáč, pilot.
Tento príklad je na stupnici strašidelnosti veľmi vysoký: „Existoval algoritmus, ktorý mal zistiť, ako vyvinúť minimálnu silu na lietadlo pristávajúce na lietadlovej lodi. Namiesto toho zistil, že ak by použil „obrovskú“ silu, pretiekol by pamäť programu a zaregistroval by sa namiesto toho ako veľmi „malá“ sila. Pilot by zomrel, ale hej, perfektné skóre. “
Sme teda všetci odsúdení na zánik?
Toto všetko dohromady naznačuje, že ľudia sú dosť mizerní pri hádaní, ako roboty vyriešia problémy, ktoré sme im nastavili, alebo dokonca ako definujú problémy. Znamená to teda, že Shane sa rovnako obáva náhodnej výroby vražedného A.I. vládcovia ako je Musk? Nie naozaj, ale nie preto, že si je istá, že ľudskí programátori majú skutočne vynikajúcu kontrolu nad robotmi, ktoré vytvárajú. Namiesto toho sa stará o lenivosť robotov, aby nás zachránila.
„Ako programátori musíme byť veľmi opatrní, aby naše algoritmy riešili problémy, ktoré sme chceli vyriešiť, a aby nepoužívali skratky. Ak existuje iná, ľahšia cesta k riešeniu daného problému, strojové učenie ju pravdepodobne nájde, “poznamenáva. „Našťastie pre nás je„ zabiť všetkých ľudí “naozaj ťažké. Ak problém vyrieši aj „upiecť neuveriteľne lahodný koláč“ a bude to jednoduchšie ako „zabiť všetkých ľudí“, potom bude strojové učenie s koláčom. “
