naukanewswynalazki

US Navy chce opracować „etyczne” roboty

Podczas gdy ONZ zastanawia się nad wprowadzeniem zakazu stosowania robotów podejmujących samodzielne decyzje o otwarciu ognia, amerykańskie siły zbrojne uruchamiają program badawczy, którego celem jest opracowanie robotów wyposażonych w sumienie.

Właściwie odpowiednim określeniem byłoby nie „sumienie” a „elektroniczny odpowiednik kodeksu moralnego”. Amerykańskie Office of Naval Research, które uruchomiło w tym celu program grantów badawczych o łącznej wartości 7,5 miliona dolarów, twierdzi, że dzięki temu roboty będą mogły podejmować lepsze decyzje niż ludzie, ponieważ na polu bitwy będą precyzyjniej przestrzegały zasad użycia siły.

„Choć dzisiejsze systemy bezzałogowe są ‚głupie’ w porównaniu do swoich ludzkich odpowiedników, podejmowane są wysiłki zmierzające do tego by w tempie szybszym niż do tej pory włączyć automatyzację [w proces podejmowania decyzji],” mówi Paul Bello, szef programu badań kognitywistycznych Office of Naval Research. „Przykładowo autonomiczne samochody Google już dziś mogą legalnie jeździć po drogach kilku stanów. Jako badacze staramy się dogonić ten postęp i przewidzieć jakie będą jego moralne i prawne implikacje. Nie chcemy, by okazało się, że w dziedzinie działań wojskowych, w których stawką jest przecież życie, nie jesteśmy na to przygotowani.”

„Nawet jeśli tego typu systemy nie są uzbrojone i tak mogą zostać zmuszone do podejmowania decyzji podlegających osądowi moralnemu,” dodaje Bello.

Dobrą ilustracją tego problemu jest przedstawiony kilka dni temu przez profesora Patricka Lina z California Polytechnic State University dylemat: załóżmy, że w autonomicznym samochodzie wiozącym dwoje pasażerów krętą, górską drogą pęka opona. Automat, który ma jeszcze jakąś kontrolę nad pojazdem, może wybrać czy uderzyć w nadjeżdżający z naprzeciwka samochód i potencjalnie zabić znajdującą się w nim rodzinę, czy, „minimalizując szkody”, skierować samochód wprost w przepaść.

Z pewnością nie jest to dylemat, z którym sami chcielibyśmy się zmierzyć, ale nietrudno wyobrazić sobie, że prędzej czy później autonomiczne systemy, a właściwie ich programiści, będą musieli sobie z nim jakoś poradzić. Pytanie tylko, czy przyjmą założenia zaprezentowane już w 1942 roku przez Isaaka Asimova, czy punkt widzenia wojska.

Zdjęcie: Flickr/Ars Electronica


podobne treści