Сергей Е предлагает Вам запомнить сайт «Тайны...»
Вы хотите запомнить сайт «Тайны...»?
Да Нет
×
Прогноз погоды

О сколько нам открытий чудных готовит просвещенья дух и опыт, сын ошибок трудных, и гений, парадоксов друг, и случай, бог изобретатель. А. С. Пушкин

Блог
Загадки вокруг смерти Гоголя
Сергей Е 19 ноя, 18:46
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
21-22 ноября на Землю упадет 400 метеоритов за час
Сергей Е 19 ноя, 18:44
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Экологическую активистку Грету Тунберг разглядели на фотографии 1898 года
Сергей Е 19 ноя, 18:40
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Почему немцы считали русских морпехов самыми опасными рукопашниками
Сергей Е 19 ноя, 18:38
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
На Марсе зафиксированы таинственные колебания содержания кислорода
Сергей Е 19 ноя, 04:35
+1 2
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Клад царя Приама…

Клад царя Приама…

18 ноя, 04:11
+2 1
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Адмирал Нельсон и леди Гамильтон

Адмирал Нельсон и леди Гамильтон

19 ноя, 04:32
+4 1
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Луна уже давно занята инопланетянами

Луна уже давно занята инопланетянами

19 ноя, 04:33
+2 1
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
На Марсе зафиксированы таинс…

На Марсе зафиксированы таинственные колебания содержания кислорода

19 ноя, 04:35
+1 2
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

О власти роботов

развернуть

О власти роботов

Массовая культура зачастую рисует весьма забавные картины относительно недалекого будущего. Практически во всех произведениях – от научной фантастики до более-менее серьёзных футурологических прогнозов особое место в жизни человека (а иногда, и не только в жизни) занимает искусственный интеллект или сокращённо «ИИ».

Последние несколько десятков лет мы постоянно сталкиваемся с этим явлением. Нас окружает множество интеллектуальных устройств, помогающих нам своими полезными услугами: благодаря ИИ мы общаемся, ведём записи интересных моментов своей жизни, учитываем свои финансы, охраняем себя. И с каждым годом всё больше и больше функций перекладываются с хрупких плеч человека на надёжные и не устающие плечи ИИ. Многие, возможно, и не в курсе, что уже почти 40 лет большинство функций сборки и, вообще, изготовления продукции, целиком и полностью в руках автоматизированных систем. Существуют производства, где людей практически нет – всё выполняется роботами под управлением искусственного разума.

Но это ещё полбеды. Существуют отрасли (например, пилотирование современных самолётов и космических кораблей), где человек только принимает решение, а все операции за него делает компьютер. Кроме того, в современном мире всё больше и больше роботов находят военное применение: от роботов-сапёров до беспилотных летательных аппаратов, способных осуществлять не только разведывательные, но и боевые функции.

Всё вышеперечисленное позволяет сделать весьма неприятные выводы: учитывая скорость развития ИИ, не возникнет ли ситуация, когда человечество будет критически зависеть от своих электронных помощников? А, возможно, всё будет ещё хуже – не захотят ли вчерашние помощники избавиться от своих «родителей»? Все помнят фильмы из франшизы «Терминатора» или «Матрицы» о том, как отдельный человек или всё человечество противостоит холодному и расчётливому искусственному интеллекту, захватившему власть над миром; эта перспектива пугает обывателя не меньше, чем гипотетический ядерный апокалипсис. Над саркастическим желанием «убить всех человеков» героя-робота из сериала принято смеяться, однако случаи-то уже были!

Первый случай убийства человека роботом произошел ещё в начале 1979 года. Из-за ошибки в программе робот при помощи манипулятора убил механика, проводившего его настройку. С тех пор, в среднем раз в 2-3 года происходили несчастные случаи, когда жертвы-люди принимали смерть от самых разных роботов: от военных до роботов-массажистов. Интересен случай, произошедший в армии ЮАР в 2007 году. Там, из-за сбоя в программе, оснащённое роботизированной системой наведения и распознавания целей, артиллерийское орудие дало сбой и начало стрелять по своим. Итог стрельб: 10 убитых и 14 раненых.

То есть даже на данном уровне развития включение в нашу жизнь автономных помощников, которыми являются роботы под управлением ИИ, представляет реальную опасность. Что же произойдёт в будущем? Не столкнёмся ли мы с проблемой выживания из-за осознания ИИ того, что он в нас более не нуждается. Некоторые прогнозисты (а иногда даже и серьёзные специалисты в области ИИ) говорят, что это вполне вероятно. Однако подавляющее большинство их коллег в это не верит; точнее они убеждены, что это не произойдёт. Чем же можно объяснить подобную уверенность?

Дело в том, что все современные компьютеры (и устройства, сделанные на их базе) устроены абсолютно одинаково. Принципы их функционирования изложил ещё Алан Тьюринг в 30х годах прошлого века. Если описать это в двух словах, то все совершенно элементарно: аппарат выполняет какую-то команду и, в зависимости от результата её выполнения, переходит к одной из следующих команд. Вот и весь принцип работы. Всё остальное – технические детали. Таким образом, всё «поведение» любого ИИ – это исполнение написанной программы, то есть, как программист напишет – так и будет.

Возникает вполне резонный вопрос – а что произойдёт, если компьютер сам будет писать себе программу, и сам её будет исполнять? Не возможен ли вариант, что таким образом и получится обход любых возможных «правил» и ограничений, наложенных на него программистом.

Ответ на этот вопрос был дан ещё до изобретения Тьюрингом основ работы компьютеров. В 1930 году австрийский математик Курт Гёдель доказал свою теорему о неполноте. Смысл её достаточно сложен для понимания, но общая идея состоит в том, что нельзя полностью описать систему, пользуясь правилами и законами, работающими только в рамках этой системы. Например, нельзя описать арифметику, пользуясь только законами арифметики – для этого нужна алгебра. Как и алгебру нельзя описать только при помощи алгебры, нужен математический анализ. И так далее.

Эта теорема, несмотря на своё кажущееся исключительно математическое или логическое применение, на самом деле проявляет себя почти во всех дисциплинах и науках. Из неё, в частности, следует, что человечество никогда не узнает, как работает человеческий мозг. Действительно, как можно описать работу мозга, имея в распоряжении только лишь такой инструмент, как сам мозг?

Такая же ситуация происходит и с искусственным разумом: ИИ не напишет сам для себя алгоритм, поскольку работает в рамках системы, определяемой теми же принципами, что и алгоритм, который он «должен» создать. То есть любой самостоятельный алгоритм, написанный ИИ, будет «хуже», чем тот, на котором работает сам ИИ. Следовательно, самостоятельный прогресс ИИ без участия внешних факторов невозможен. И это мы ещё не рассматривали вопросы творчества и интуиции, присущие исключительно человеку, но никак не ИИ.

С момента открытия теории алгоритмов Тьюрингом (1936 г) было сделано лишь два качественных прорыва в науке об ИИ. Первый – появление нейросетей (1957 год) и второй – появление т.н. «нечёткой логики» (1964 год). И на этом всё. Ничего нового за последние 50 с лишним лет придумано не было. Весь современный ИИ базируется исключительно на этих, допотопных по сути, технологиях. Весь остальной прогресс был чисто количественный – компьютеры работали быстрее, обрабатывали большие объёмы данных, связывались друг с другом на больших расстояниях и т.д.

Возможно, в XXI веке появится что-то новое, какая-то технология, позволяющая если не обойти теорему, ограничивающую возможности ИИ, то хотя-бы нечто, хоть немного приближающее его к человеческому интеллекту. Но пока это только лишь мечты…


Источник →

Опубликовал , 10.08.2017 в 17:42
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Комментарии

Показать предыдущие комментарии (показано %s из %s)
Показать новые комментарии
Загадки вокруг смерти Гоголя

Загадки вокруг смерти Гоголя

19 ноя, 18:46
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
21-22 ноября на Землю упадет…

21-22 ноября на Землю упадет 400 метеоритов за час

19 ноя, 18:44
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Экологическую активистку Гре…

Экологическую активистку Грету Тунберг разглядели на фотографии 1898 года

19 ноя, 18:40
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Почему немцы считали русских…

Почему немцы считали русских морпехов самыми опасными рукопашниками

19 ноя, 18:38
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
На Марсе зафиксированы таинс…

На Марсе зафиксированы таинственные колебания содержания кислорода

19 ноя, 04:35
+1 2
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Луна уже давно занята инопланетянами

Луна уже давно занята инопланетянами

19 ноя, 04:33
+2 1
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Поиск по блогу

Люди

7056 пользователям нравится сайт s30496970382.mirtesen.ru

Блог
Загадки вокруг смерти Гоголя
Сергей Е 19 ноя, 18:46
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
21-22 ноября на Землю упадет 400 метеоритов за час
Сергей Е 19 ноя, 18:44
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Экологическую активистку Грету Тунберг разглядели на фотографии 1898 года
Сергей Е 19 ноя, 18:40
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Последние комментарии

Федор Тютчев
Вадим
Спасибо
Вадим Адмирал Нельсон и леди Гамильтон
Nodar Chincharauli
Лана Зайцева
Лана Зайцева

О сайте

Сейчас онлайн

  • Guly Gizatulina
  • victor boltov
  • Вадим Янюк
  • Владимир Брыжин
  • Akmal Mamaraimov
  • Сергей Филиппов
  • Нина Пфайфер
  • Светлана Лузан (Гамаюнова)
  • ада Лаврентьева
  • Евгения Холопенкова
  • Олег Перепелкин
  • Валерий Попов
  • Юля Полын
  • o.rufim Капоне
  • Артём Воробьёв