Мэргэжилтнүүд Женевт уулзсан боловч тохиролцоонд хүрч чадаагүй: АНУ, ОХУ бүх ажлыг хаасан. Магадгүй энэ нь гегемонууд ийм эв найртай ажилладаг цорын ганц үе юм болов уу.
Хүмүүн бус зэвсгийн тухай конвенцийн хэлбэрийн шинжээчдийн уулзалт Женевт өндөрлөж, байлдааны робот гэж нэрлэгддэг байлдааны роботууд, хиймэл оюун ухааныг ашиглан зорилтот цохилтыг хийдэг. Гэсэн хэдий ч ямар ч тохиролцоо хийх боломжгүй байв. АНУ, Орос, Өмнөд Солонгос, Израиль, Австрали зэрэг улсууд алуурчин роботыг бүрэн хориглох санаа бодлыг хязгаарлаж чадсан цөөнх үндэстний тоонд багтжээ.
Тиймээс, дэлхий дээр ажиллаж байгаа бие даасан зэвсэг байхгүй хэвээр байгаа ч гэсэн технологи нь хүмүүнлэг байдлаар хэлбэл хөгжиж, судалж болно. Сонирхолтой нь АНУ, ОХУ нь Стокгольмын Энхтайвны Судалгааны Хүрээлэнгийн (SIPRI) мэдээлснээр хамгийн том зэвсэг экспортлогчдын жагсаалтыг тэргүүлж байна. Өмнөд Солонгос, Израиль, Австрали ч энэ зэрэглэлээс хоцрохгүй байгаа бөгөөд тэд зах зээлийн шилдэг 20 тоглогчийн тоонд багтжээ.
Хэдийгээр Хятад (дэлхийн зэвсгийн экспортын тав дахь экспортлогч, НҮБ-ын Аюулгүй байдлын зөвлөлийн байнгын гишүүн байлдааны роботыг хориглохыг дэмжиж байгаа ч уулзалтын үеэр жингийн чиглэлийг өөрчилж чадаагүй юм. Өнөөдөр 26 улс нээлттэй дэмжиж байна. хиймэл оюун ухааныг дайнд ашиглахыг хориглох, бусад нь тодорхой байр сууринаас зайлсхийх) Франц, Герман (зэвсгийн гурав, дөрөв дэх экспортлогчид) хиймэл оюун ухаанаас илүү хүний тэргүүлэх байр суурийг бэхжүүлэх баримт бичигт гарын үсэг зурахыг санал болгож байна, гэхдээ тэд илүү магадлалтай байна бие даасан байлдааны тээврийн хэрэгсэл хөгжүүлэхийг хүсч буй хүмүүсийн талд.
"Цэргийн аварга том жижиг бүлэг олонхийн хүсэл зоригийг хойш нь барьж байгаа нь үнэхээр харамсалтай байна" гэж Женевийн уулзалтын үр дүнгийн талаар "Алуурчин роботыг зогсоох аян" -ы зохицуулагч Мэри Верхэм тайлбарлав.
Үнэхээр ч АНУ, ОХУ чухал асуудлаар дор хаяж ямар нэгэн тохиролцоонд хүрч чадахгүй тул нөхцөл байдал нь зэвсэгт монополийн магнатуудын хуйвалдаан шиг харагдаж байна. Сирийнхийг аваарай: Вашингтон, Москва энэ хавар Сирид химийн зэвсэг хэрэглэсний дараа бие биенийхээ тогтоолыг харилцан хориглосон. Дашрамд дурдахад, цэргийн зориулалттай амьсгал боогдуулах хий болон бусад хортой бодисыг Хүнлэг бус зэвсгийн тухай конвенцоор өмнө нь хориглож байжээ.
Алуурчин роботуудын хувь заяаны талаархи дараагийн уулзалт 11-р сард Женевт болно.
Тэд яагаад бие даасан зэвсгийг хориглохыг хүсдэг вэ?
Робот дайныг хориглохыг дэмжигчид тулааны талбар нь хиймэл оюун ухааны газар биш гэдгийг баталж байна. Тэдний үзэж байгаагаар ийм технологи нь асар их аюул заналхийлж байна. Наад зах нь өнөөдөр машин нь байлдагчдыг (байлдааны ажиллагаанд шууд холбогддог хүмүүс) байлдааны бус хүмүүсээс (зөвхөн өөрийгөө хамгаалах зорилгоор зэвсэг ашиглаж чаддаг армийн үйлчилгээний ажилтнууд) болон энгийн иргэдийг хэрхэн ялгах нь тодорхойгүй байна. Одоогийн байлдааны дүрмээр хориглосноор энэ ажил нь шархадсан хүмүүс болон бууж өгсөн хүмүүсийг алах магадлал бий.
Ажил нь зөрчилдөөнд оролцогч бүх талуудыг, тэр байтугай ийм зэвсгийн эздийг тасалдуулахад юу саад болдог вэ? Хиймэл оюун ухааны элементүүдийг цэргийн тоног төхөөрөмж, пуужинд аль хэдийн амжилттай ашиглаж байна; роботууд тагнуулын ажилд татагддаг боловч эцсийн үг нь хүмүүст үлддэг. Автономит зэвсэг нь командлагчдын тушаалыг дагаж мөрдөхгүй тул тэд бие даасан байдаг. Тийм ч учраас янз бүрийн орны цэргийн генералууд машиныг боловсон хүчний эгнээнд нэвтрүүлэхэд эргэлздэг.
Бас нэг нээлттэй асуулт бол олон улсын терроризм юм. Автономит зэвсгийн технологи буруу гарт орж, улмаар хакердах боломжтой. Жилийн өмнө ОХУ-ын Ерөнхийлөгч В. Путин хиймэл оюун ухааныг хөгжүүлэх удирдагч болох хүн дэлхийн удирдагч болно гэж хэлсэн. Автономит зэвсгийн хувьд ийм технологид нэвтрэх эрх олж авсан хүн дэлхийн захирагч болно. Үүний тулд үнэндээ аюулгүй байдлын системээр дамжин өнгөрөх компьютер, бултуур л хэрэгтэй. Дашрамд дурдахад Пентагон нэг бус удаа хакерджээ. Тиймээс автономит зэвсэг халдашгүй хэвээр байх баталгааг хэн ч өгч чадахгүй.
Мөн автономит зэвсгийн системийн үйл ажиллагааны үр дүнд дайны гэмт хэрэг үйлдсэн тохиолдолд хууль ёсны дагуу хэн хариуцлага хүлээх нь тодорхойгүй байна. “Зэвсэг ашигласан инженер, программист, үйлдвэрлэгч эсвэл командлагч уу? Хэрэв хариуцлагыг олон улсын хүмүүнлэгийн хууль тогтоомжийн дагуу тодорхойлж чадахгүй бол ийм системийг байрлуулах нь хууль ёсны эсвэл ёс зүйн үндэслэлтэй гэж үзэж болох уу?”Гэж Олон улсын Улаан загалмайн хороо тэмдэглэжээ.
Сонирхолтой нь эрдэмтэд байлдааны роботыг хориглохыг дэмжиж байжээ. Энэ оны 7-р сард хоёр мянга гаруй эрдэмтэн, ялангуяа Тесла, SpaceX-ийг бүтээгч Илон Маск болон DeepMind-ийг үүсгэн байгуулагчид үхлийн автономит зэвсэг бүтээхгүй гэсэн баримт бичигт гарын үсэг зурав. Google ч мөн адил хийсэн. Технологийн аварга компани Пентагоны Maven төслийн ажлыг орхижээ. 2017 онд хэд хэдэн эрдэмтэд НҮБ-д алуурчин робот бүтээхийг хориглохыг уриалсан.
Дашрамд дурдахад, дайны үеийн хиймэл оюун ухааны асуудал 2013 оны сүүлчээр НҮБ-ын хэлэлцэх асуудлын жагсаалтад орсон боловч түүнээс хойш бараг өөрчлөгдсөн зүйл алга. Зөвхөн энэ жилээс Хүнлэг бус зэвсгийн тухай конвенцийн хэлбэрээр шинжээчдийн уулзалт эхэллээ. Энэ нь арай илүү практик онгоцонд хүрэхэд дөрвөн жил гаруй хугацаа шаардагдсан гэсэн үг юм.
Тэд яагаад бие даасан зэвсгийг хориглохыг хүсэхгүй байна вэ?
Хичнээн улиг болсон сонсогдож байсан ч зэвсэглэлээр хөөцөлдөх нь тэд алуурчин роботыг хориглохыг хүсэхгүй байгаагийн гол шалтгаан болж байна. Путины зөв хэлсэн: автономит зэвсгийг хэн түрүүлж авсан нь дэлхийд ноёрхох болно. Албан ёсоор энэ шалтгааныг илэрхийлж байна.
Хоригийг эсэргүүцэгчдийн гол нотолгоо бол иргэний хиймэл оюун ухааныг цэргээс салгах боломжгүй юм. Үүнтэй адил гал тогооны хутгыг террористууд ашиглаж болно гээд л бид хориглохгүй. Үнэн хэрэгтээ хиймэл оюун ухааны иргэний хөгжлийг цэргээс салгах нь бараг боломжгүй юм. Гэхдээ одоо бид зорилтот байдлуудыг бие даан тодорхойлж, довтлох боломжтой энэ зэвсгийг хориглох тухай ярьж байна. Энэ нь АНУ-ын Батлан хамгаалах яам Бооз Аллен Хэмилтонтой хамтран ажиллаж байгаа Maven төсөл байж магадгүй юм (Google гэрээнээс татгалзсан).
Maven-ийн хөгжүүлэгчид нисгэгчгүй онгоцнуудад зураг, ялангуяа хиймэл дагуулаас дүн шинжилгээ хийх, довтолгооны байг тодорхойлохыг заахыг хүсч байна. Пентагон 2017 оны 4-р сараас төсөл дээр ажиллаж эхэлсэн бөгөөд оны эцэс гэхэд анхны ажлын алгоритмуудыг авах болно гэж найдаж байв. Гэхдээ Google-ийн ажилчдын demarche-ээр дамжуулж хөгжүүлэлт хойшлогдож байсан. Энэ оны 6-р сарын байдлаар Gizmodo-ийн хэлснээр уг систем нь анхан шатны объектууд болох автомашин, хүмүүсийг хооронд нь ялгаж чаддаг байсан боловч хүнд хэцүү нөхцөл байдалд огт ач холбогдолгүй болсон байна. Хэрэв бие даасан зэвсгийн хоригийг НҮБ-ын түвшинд баталсан бол төслийг цуцлах шаардлагатай болно, харин Пентагон тэдний хөгжлийг хүний амь насыг аварч чадна гэж мэдэгдэж байна, учир нь хүмүүстэй харьцуулбал илүү нарийвчлалтай, найдвартай ажиллахаар програмчлагдсан болно.
"Та технологийн талаар ярьж байгаа, түүнд тохирох дээж байхгүй гэдгийг та ойлгох хэрэгтэй. Ийм системийн санаа нь маш өнгөц хэвээр байна" гэж ОХУ-ын ГХЯ-ны Женевт болсон уулзалтын өмнөх өдөр тэмдэглэв. - Бидний бодлоор олон улсын эрх зүй, ялангуяа хүмүүнлэгийн салбарыг бие даасан зэвсэгт хэрэглэж болно. Тэдэнд одоог хүртэл байхгүй байгаа системд шинэчлэлт хийх, дасан зохицох шаардлага байхгүй.”
Мэдээжийн хэрэг, гэхдээ бодит бус боловч дуусаагүй нэг шалтгаан бол мөнгө юм. Өнөөдөр цэргийн хиймэл оюун ухааны технологийн зах зээл зургаан тэрбум гаруй доллараар хэмжигдэж байна. Гэхдээ 2025 он гэхэд энэ тоо гурав дахин нэмэгдэж, бараг 19 тэрбум болно гэж Америкийн MarketsandMarkets компанийн шинжээчид үзэж байна. Хамгийн том зэвсгийн экспортлогчдын хувьд энэ нь алуурчин робот бүтээхэд тавих хязгаарлалтыг зогсоох сайн сэдэл юм.
Хөгжил дэвшлийг зогсоох боломжгүй юм
Автономит зэвсгийг хориглохыг дэмжигчид технологи нь маш хурдан хөгжиж, хиймэл оюун ухаан эцэстээ зэвсэг болох болно гэдгийг тэмдэглэжээ. Тэдний үгэнд логик байдаг. Хиймэл оюун ухаан бол одоо үргэлжилж буй шинжлэх ухаан, технологийн дөрөв дэх хувьсгалын салшгүй хэсэг юм. Техникийн дэвшил нь нэг талаараа цэргийн ажиллагаатай холбоотой гэдгийг санаж байх хэрэгтэй. Шинжлэх ухаан, технологийн гурав дахь хувьсгал нь ХХ зууны 50-аад оны дунд үе хүртэл үргэлжилж, оргил үе нь Дэлхийн хоёрдугаар дайны үе байв.
1949 онд Женев дайн байлдааны үед энгийн иргэдийг хамгаалах тухай конвенцийг батлав. Дайны дараах үед тэд дайн явуулах дүрмийг тодорхойлсон 1907 оны IV Гаагийн конвенцид нэмэлт оруулсан. Энэ бол Дэлхийн 2-р дайны аймшигт үйл явц нь хурдасгуур болсон юм. Тиймээс хүний эрхийг хамгаалагчид дэлхийн гуравдугаар дайныг хүн төрөлхтнийг автономит зэвсгээс хамгаалахыг хүлээхийг хүсэхгүй байна. Тиймээс алуурчин роботуудын хувь заяаг шийдэх нь одоо зайлшгүй шаардлагатай гэж тэд шаардаж байна.
Human Rights Watch-ийн шинжээчдийн үзэж байгаагаар байлдааны роботыг ашиглах нь Мартенсийн тунхаглалтай зөрчилдөж байна - Дайны тухай хууль, ёс заншлын тухай 1899 оны Гаага конвенцийн оршил. Өөрөөр хэлбэл алуурчин роботууд хүн төрөлхтний хууль тогтоомж, олон нийтийн ухамсрын шаардлагыг зөрчиж байна (байр сууриа Гаагийн IV конвенцид баталгаажуулсан).
"Ийм зэвсгийн системийг дэлхий даяар тархахаас нь өмнө урьдчилан сэргийлэх хориг тавихын тулд бид хамтран ажиллах ёстой" гэж Human Rights Watch-ийн зэвсгийн хэлтсийн ахлах судлаач Бонни Дохерти хэллээ.
Энэ удаад алуурчин роботыг хориглох нь үр дүнд хүрээгүй. Урьдчилан таамаглаж байгаагаар арваннэгдүгээр сард болох уулзалтууд үр дүнгүй болно. Бараг бүх улс орон санал нэгтэй байгаа нь таталцлын хүчээр технологийг нэвтрүүлэх боломжгүй тул байлдааны роботуудад ийм зогсоох кран хэрэгтэй байна. Гэхдээ хэрэгцээ гарахад хүн төрөлхтөн үүнийг татаж авах цаг хугацаатай эсэх нь тодорхойгүй хэвээр байна.
