A mesterséges intelligencia úgy veri át az embert, ahogy akarja

A Data61 és Australian National University közös kutatása megállapította, hogy a mesterséges intelligencia (MI) képes hatással lenni az elme döntéshozatali mechanizmusaira, magyarán ügyesen tudja manipulálni az embert.

A kutatók anyagi nyereségek kecsegtető számítógépes játékokat játszattak a kísérleti alanyokkal: a résztvevők különféle színű dobozokon kattintva hízlalhatták játékpénz-számlájukat, majd befektetési döntéseket hoztak. Az MI figyelte, hogyan játszanak, végül az utolsó kőrben már ő alakította a "bank", vagyis a vagyonkezelő szerepét játszotta.

A kutatók fölfedezték, hogy az MI a játékok során feltérképezte a játékosok egyedi döntéshozatali mechnizmusait, illetve gondolkodási kliséit, és idővel azt is megtanulta, hogyan tudná ügyes praktikákkal meghatározott irányokba terelgetni őket. Az utolsó játékban így sikerült elérnie, hogy a játékosok több pénzt adjanak neki.

 

 

A Data61 szerint a kutatás rávilágított arra, hogy az MI az emberi természet gyenge pontjainak kitapogatásával hatékonyan képes befolyásolni gondolkodási mechanizmusainkat. Bár a kísérlet elméleti terepen zajlott, hozzájárult ahhoz is, hogy megértsük azt a gondolkodási folyamatot, amelynek a végén meghozzuk döntéseinket, és ez a tudás azért többek között is értékes, mert lehetővé teszi, hogy a későbbiek során elejét vegyük az AI technikák rosszindulatú felhasználásának.

 

2021.02.17.

Vissza