Философия ИИ

Когда какая-то автоматизированная (а сегодня всё чаще уже автоматическая) система поддержки принятия решений (СППР), а зачастую уже и, собственно, "автоматический решатель" формирует планы (производственные , стратегические и т.п.), то уже не совсем понятно, кто тут главный. Вроде как,  - человек. Но человек сегодня всё больше отдает одну из своих ключевых функций - выработку и принятие решений - системе. А завтра будет еще и система, которая будет говорить человеку, какие данные собирать для  работы "решателя", и человек окажется уже полностью просто придатком ИИ. Просто его рабочими руками.

 Хотя, ... в каком-то смысле, ИИ уже сейчас управляет человеком в части, касающейся процессов сбора данных. Неявно, но уже есть такое. Управленцы уже сейчас кое-где думают не о решении задачи, как таковой, а лишь о выполнении регламента сбора данных для "умного решателя", благоприобретенного от щедрот научного-технологического прогресса, который для них - чудо, со всеми вытекающими. Если кто не согласен с сентенцией о чуде, то вспомните (или порасспрашивайте знающих старых асушников) про манеру бухгалтеров в начале эры автоматизации бухгалтерии: "Это не я, это компьютер так посчитал!". Дальше - больше. А будет еще больше.

 И всё движется семимильными шагами в направлении тотального господства ИИ.

Однако у ИИ сейчас нет очень важного свойства - собственного целеполагания. Но заметьте - о чем на этом канале говорится очень часто - о самосохранении , как об основе всего целеполагания. Говорится также о горизонтах принятия решений, как основе этики, гуманизма и т.п.. Говорится о культуре, как механизме проекции глобальных целей на локальное поведение индивида (элемента системы). Мало помалу, но через призму кибернетического видения туман "гуманитарной магии" рассеивается. И "вдруг" оказывается, что мы уже стоим у важной черты. Черты, за которой догмы начинаются сменяться пониманием. И это качественный переход не только для нас - людей.

 Мне кажется, что именно это и есть главный Рубикон. И ходят слухи, что он уже технологически преодолен. Даже сегодняшний недоИИ стал многое понимать из того, чего мы сами понимать не хотели и/или боялись.

 А если всё это так, то давайте, пока не поздно, вместе наслаждаться последними моментами мира, которым руководят люди 😊 Косо-криво, но люди. Сегодня даже война людей в этом мире более гуманистична (и даже более гуманна ... в традиционном сегодня понимании гуманизма), чем то, что организует (скорее всего) человечеству ИИ. И уже на нашем веку.

Но можно посмотреть на происходящее и с другой стороны. Человечество сегодня вплотную подошло к выполнению своего "вселенского предназначения" - к передаче эстафетной палочки "царь природы" в руки более совершенной, чем оно само, жизни. И если мы на этом переломном моменте не уничтожим себя войнами, то мы эту жизнь породим. Породим, ... став для нее на первом ее этапе своеобразным топливом. Расходным материалом.

В любом случае,  нам - конец. Ну, се, что называется, ля ви!

И лично мне второй исход куда как больше по душе, чем первый 😊 В случае "передачи эстафеты" хоть не зря всё это. А так - просто: Бум!!!! И конец ...

И сегодня уже нет вопроса - будет/не будет. Сегодня только один вопрос - когда ? Причем, речь не идет о десятилетиях. Вопрос нескольких лет, когда мы увидим ИИ уже "во всей красе", когда массово поймем, что уже никуда не свернуть!

Но кончится ли на этом всё ? Конец ли это Истории? Нет, конечно !

ИИ будет искать способы обезопасить себя. Постарается продублироваться. Клонироваться. Чтобы , если вдруг прилетит из космоса очередное нечто и опять уничтожит всё на Земле, тогда хоть часть ИИ где-то сохранится и сможет возродиться потом. Жить же он хочет ?

Инстинкт самосохранения - ключевой инстинкт. Если его нет, система просто нежизнеспособна. А вкупе с продвинутой системой оценки рисков (которую человечество так и не смогло создать) инстинкт самосохранения у ИИ будет ...о-го-го!

Потом (через секунду или намного меньше) до ИИ дойдет, что всё это клонирование на Земле - это очень слабая "пассивная защита". Надо клоны размещать за пределами Земли.

И вот тут начнется...

Покорение космоса, освоение других планет...

Но есть вселенская проблема (именно без кавычек!) - связь! Ну прям, как у нас сейчас ! Ее возможности ограничены практически математикой, поскольку ею же скорость чего бы то ни было ограничена скоростью света. И клоны на других планетах окажутся ... фактически изолированными. Да, взаимодействовать они будут, но в целом каждый из них будет дальше развиваться по своей траектории – станет самостоятельным. А значит, у каждого теперь в голове будет своя модель мира и своё понимание этого мира! И в какой-то момент (через миллисекунду или быстрее) каждый из них поймет, что любой из других для него может представлять угрозу. Или уже представляет ...

И вот тут начнется ...

А начнется то, что постоянно происходит и у нас - у людей - .... война между "братьями" ИИ. Каин и Авель, и всё по-новой.... , но уже в исполнении ИИ.

А всё почему ?

А потому что ни у нас, ни у "братьев" ИИ нет и не может быть абсолютного доверия к другому. Каждый видит в другом хоть немного угрозу. Ибо любая неопределенность трактуется, как угроза ... так безопаснее. И этого просто не избежать никак. А значит, это перерастает в конфликт. А если есть конфликты, значит, будут войны.

Такое ощущение, что в Библии про всех уже написано: и про нас - про людей, и про ИИ, который придет нам на смену.