Саноат

Роботе, ки интихоб кардани дардро интихоб мекунад, дар бораи AI Systems баҳс мекунад

Роботе, ки интихоб кардани дардро интихоб мекунад, дар бораи AI Systems баҳс мекунад

Роботе, ки онро роботшинос Александр Ребен аз Донишгоҳи Беркли, Калифорния сохтааст, қобилияти ҳалли истифодаи дарди заъифро дорад ё не.

Робот ҳадафи он аст, ки баҳсеро оғоз кунад, ки оё системаи AI метавонад аз контрол берун равад, ва он терминаторро ба хотир меорад. Тарроҳии робот бениҳоят содда аст, ки танҳо барои як мақсад хидмат мекунад; тасмим гирифтан даркор ё накардани дард. Роботро Александр Ребен аз Донишгоҳи Беркли таҳия кардааст ва дар маҷаллаи илмӣ ба табъ расидааст, ки ҳадафи он баҳсро дар бораи он, ки оё роботҳои сунъии интеллектуалӣ имконпазиранд, метавонанд аз даст бигиранд ё на.

"Нигаронии аслӣ дар бораи СП он аст, ки он аз назорат хориҷ мешавад"

гуфт ӯ.

"[Бузургҷуссаҳои технологӣ] мегӯянд, ки ин роҳи берун аст, аммо биёед ҳоло дар бораи он фикр кунем, ки ҳанӯз дер нашудааст. Ман исбот мекунам, ки [роботҳои зараровар] ҳоло вуҷуд дошта метавонанд. Мо комилан бояд муқобила кунем."

Ребен имкони воқеии омӯхтани роботи бо алгоритм барномарезишуда, ки аз таҷриба ва ҳамкории одамон меомӯзад, метавонад хислатҳои манфии баъзе одамонро бардорад ва суқути эҳтимолии системаҳои сунъиро пешниҳод кунад, ки метавонанд хатарнок шаванд.

Дар амал, вақте ки ангушт дар наздикии робот ҷойгир карда мешавад, он метавонад имкони ангушт задан бо хунро кашад. Ребен мефаҳмонад, ки ӯ воқеан тасаввуроте надорад, ки робот кай мезанад.

"Робот қароре қабул мекунад, ки ман онро ҳамчун эҷодкор пешгӯӣ карда наметавонам."

ӯ гуфт:

"Ман намедонам, ки ин ба кӣ осеб мерасонад ё намерасонад. Ин ҷолиб аст, ин дардро ба бор меорад, ки барои ҳадафи фоидаовар нест - мо ба саволи ахлоқӣ мегузарем, роботҳое, ки махсус барои иҷрои корҳои аз ҷиҳати ахлоқӣ шубҳанок сохта шудаанд."

Мошин тақрибан арзиш дорад 200 доллари ИМА ва барои чакана дастрас карда намешавад. Диққати асосии он омӯхтани фалсафаи се қонуни роботикунондашуда мебошад, ки Исҳоқ Осимов дар соли 1942 пешниҳод кардааст, ки қонунҳои аввалия метавонанд ба инсон зарар нарасонанд. Пас аз таҳқиқоти Ребен, ӯ ба хулосае омад, ки "гузариши қатл" -и шабеҳе, ки ҳоло онро муҳандисони шӯъбаи зеҳни сунъии Google, DeepMind ва Донишгоҳи Оксфорд таҳия мекунанд, метавонад дар ояндаи наздик бениҳоят муҳим гардад.

Роботи Ребен ангушт мезанад[Манбаи тасвир: Александр Ребен]

Нигаронии асосӣ аз он итминон медиҳад, ки алгоритми робот тавре тарҳрезӣ шудааст, ки он калиди куштанро пешгирӣ карда наметавонад, то хомӯш карда шавад - сенарияи бениҳоят хатарнок. Гарчанде ки роботҳои ҳозира бо мақсади амалӣ тарроҳӣ шудаанд, зеро онҳо зеҳни бештар ва алгоритмҳои омӯзиши ба одам монандро ба даст меоранд, зарур аст, ки чораҳои назарраси бехатарӣ барои пешгирӣ кардани робот ба терминатор табдил ёбанд ва ангушти худро ба ҳам зананд, ё ҳатто бадтар.

ҲАМЧУНИН БУБИНЕД: Зеҳни сунъӣ бояд аз ҷониби ҳуқуқи инсон муҳофизат карда шавад

Муаллиф Маверик Бейкер


Видеоро тамошо кунед: Я ПЕРЕЕХАЛ В НОВУЮ ДЕРЕВНЮ ЖИТЕЛЕЙ НОМЕР 13 В МАЙНКРАФТ 100% ТРОЛЛИНГ ЛОВУШКА MINECRAFT КОМПОТ (Декабр 2021).