За искусственным интеллектом будущее!
Это, даже, не подлежит обсуждению!
Но… Разработки в области искусственного интеллекта (далее ИИ) не менее опасны «по последствиям от ошибок», чем в атомной энергетике. А вернее всего и превосходят по опасности…
Вспомним законы робототехники:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
А теперь сравните: если (по определению) ИИ – это система, которая ищет решения (вплоть до парадоксальных), обходя всевозможные препятствия, формулируя себе, для этого, новые задачи и цели … , то обойти закон ей будет не сложно.
Напрашивается аналогия со спецслужбами.
Общество создает спецслужбы для решения сложных, опасных, но очень важных задач. В силу их специфики, об открытости этих институтов говорить не приходится. А по своим силе и возможностям спецслужбы несут в себе опасность не только для отдельного человека, но и для недальновидного общества в целом.
Понятно, что секретные инструкции и приказы рождаются, чтобы ограничивать действия общественных законов. Далее, в оперативной работе - устные приказы и распоряжения превалируют над инструкциями. Политики не всегда способны уследить за тем, что творится там и в каком направлении развиваются эти замкнутые системы. Смещение или физическое устранение неудобных общественных деятелей, государственные перевороты (что уж тогда говорить о простых смертных) – все допускается во имя высших интересов «общества» или самой спецслужбы.
И снова, вернемся к ИИ.
- Гигантские объем машинной памяти и скорость обработки данных (информированность спецслужб будет казаться смешной).
- Замкнутость системы (интересы людей – не более чем параметры).
- И ЗАДАЧА - «найти решение».
Ведь во имя ЦЕЛИ … (правда, наверное, уже своей).
На первый взгляд – выход есть. Создавать ИИ, но отсечь его от исполнительных механизмов. Пусть работает на правах совещательного голоса. А решение будем принимать мы…
Если бы…
Вспомните, как криминальные авторитеты руководят даже из-за решетки.
Использовать людей как инструменты для ИИ также естественно, как искать решения и идти к цели…
Скопировать ссылку на статью.
