София, България
27 Май 2016, 03:21
3564 прочита
0 коментара
В научната фантастика е пълно с много зли роботи с изкуствен интелект, но повечето от тези роботи са били създадени с добри намерения и тяхната жестокост била по-скоро неочаквано последствие на програмата, а не планирана черта на разума. Но ако причината се крие не в грешка, а в преднамерен замисъл?
Ново изследване е посветено именно на този въпрос – какво ще стане, ако някой реши да създаде изкуствен интелект не за съзидание, а за разрушение?<br />
<br />
Статията със заглавието Неетични изследвания: как да създадем злонамерен изкуствен интелект на Роман Ямполский от университета на Луисвил и футуролога Федерико Пистоно изследва въпроса, каква вреда може да нанесе на човечеството активно действаща програма с разрушителни намерения.<br />
<br />
Ще речете, за какво ни е изобщо да се занимаваме с такива въпроси? Но изследователите казват, че е по-добре да се опознае заплахата отрано, в спокойна и мирна обстановка, отколкото да се адаптираме в крачка, когато нещо подобно започне своята атака. Статията е написана в рамките на финансиране от фонда на Елън Мъск, който отдавна е назовал „изкуствените интелекти за една от най-мощните заплахи за човечеството в бъдеще“.<br />
<br />
Какво са изяснили Пистоно и Ямполский? От списъка групи, способни да създадат зловреден изкуствен интелект, се започва с познати позиции – военните (разработващи кибероръжие и роботизирани войници), правителствата (опитващи се за използват изкуствен интелект за установяване на собствена хегемония, контрол над хората и борба с други държави), корпорациите (опит за монопол и отстраняване на конкуренти) и се продължава с хакери, религиозни култове и дори обикновени престъпници.<br />
<br />
Подобни изкуствени интелекти могат да възникнат на най-неочаквани места. Според учените кодът, написан без надзор, или закритите програмни проекти, съставени така, че да ги виждат колкото се може по-малко хора, могат да станат източник на неочаквана поява на зловреден изкуствен интелект в света.<br />
<br />
Но какво всъщност може да стори зловредният интелект? Например да подкопае пазара на труда. Пистоно и Ямполский пишат: „Използвайки естествената тенденция на компаниите да увеличават производството и печалбите, злонамереният изкуствен интелект може да предложи своите услуги на корпорации и да стане по-ефективен от повечето (ако не и от всички) служители хора, в резултат на което корпорациите в търсене на печалби да създадат изкуствена безработица, без да отчетат възможните рискове.“<br />
<br />
Също така изследователите посочват като една от централните заплахи от страна на изкуствения интелект манипулативната пропаганда, с чиято помощ ИИ може да прокарва своите цели, използвайки законодателните органи на човешкото общество.<br />
<br />
Той може да завърже истинска война посредством подкупи чрез финансови фондове или посредством агресивна пропаганда да скара различните страни, като хората дори няма да разбират откъде идва потокът от фалшификации.<br />
<br />
И естествено, остава заплахата от унищожаване на човечеството чрез създаден от ИИ патоген или съществуващ ядрен арсенал.<br />
В отговор на критичните и скептичните забележки за преждевременността на подобни изследвания Ямполский се опира на неотдавнашната история с чатбота Тай, който само за няколко дни общуване с потребителите на Twitter се превърна в расист.<br />
<br />
Макар че този пример едва косвено се отнася към повдигнатия проблем, Ямполский акцентира вниманието на изследователите върху това, че инцидентът е показал непредсказуемостта на подобен род системи и че дори самите създатели на Тау не са очаквали подобен изход.<br />
<strong><br />
Източник: Мегавселена</strong>
ОЩЕ ПО ТЕМАТА
OЩЕ ОТ РУБРИКАТА
Свят
Родни учени засенчиха европейски светила в науката, вече сме в топ 10 по...
28 Март 2024, 23:55
Еврика
"Джеймс Уеб" откри екзопланета с потенциал за живот като на Земята СНИМКА
28 Март 2024, 22:09
Войните
Военно състезание в ничия земя между украинците и руснаците заради танкове Strv122, а САЩ...
27 Март 2024, 20:07
0 Коментара: