Шанси людини на життя у добу розумних машин
Дихотомія, що виникла у дискурсах щодо машинного мислення та штучного інтелекту, а саме, його спрямування на благо соціуму, чи на розробку озброєння, як дискурс, набула неабиякої актуальності. У той момент коли відомі інтелектуали планети засуджують, застерігають вектор розвитку – розробка розумної зброї, зброя продовжує розроблятись з причини щедрого фінансування проектів. Натомість протилежний вектор, це переважно пошук фінансових засобів в умовах їхнього гострого дефіциту.
Втім, з першим вектором все достатньо зрозуміло, єдине, слід підкреслити дві речі. По-перше, розумна зброя душе швидко стане персоналізованою (індивідуально спрямована на об’єкт – людину); вона не буде мати руйнівного ефекту; вона буде здатна знаходитись впритул (або у тілі) і перебувати у пасивній формі до часу активації (якщо такий буде). По-друге, у випадку розвитку розумної зброї до рівня повної автономії з потенціалом центрального вузла обробляти мільйони перемінних, виникає складна проблема, це відсутність стримувати саморозвиваючий програмний код у межах конкретних команд, тобто він буде здатний на вільне переміщення у світовому дигітальному середовищі. Зміст небезпеки полягає у тому, що відомий нам спосіб захисту людини від машини як вшиття на рівні біоса трьох законів робототехніки будуть порушенні (людині неможна нашкодити), а отже, це слід тлумачити як навмисне створення надзвичайно потужного і нестримного вірсу-вбивці людини. З часом всі ці алгоритму і будуть являти собою те, що ми називаємо злом, лихом, дияволом. Підкреслюю, вони створюються зараз.
Щодо до другого вектору. Спершу про нескінчений цикл виробництва машинами більш досконалих машин (йдеться не про робототехнічні пристрої, а про машинне мислення – штучний інтелект). Заперечувати технологічну сингулярність неможливо, крім того яка буде забезпечуватись переважно не людиною. І саме це стає центральною проблемою – апокаліпстичні літературно-творчі сценарії малювання майбутнього, в яких людина стає зайвою через свою руйнівну природу, нерентабельність (інтенсивне споживання природних ресурсів гіпертемпами протягом яких вони не можуть відновитись), ворожість.
У класичному розумінні такі прогнозування мають сенс. Але у цих розмислах відсутня системність та детермінізм. Технологічна сингулярність не відбувається сама собою. Вона обов’язково потребує відповідної інфраструктури та поступовості її впровадження, але вже з додатком «е» - електронна, цифрова, дигітальна. Поява, а тим більше розвиток, е-інфраструктури, це ґрунтовна модернізація існуючих та створення нових функціональних центрів (управління, розподіл, виробництво, контроль, заміна, первинний збір даних, первинна оцінка тощо). Всього того, що буде: а) здійснювати перехід природнього простору (створеного без участі людини, наш природньо-біологічний світ) у цифровий; б) управління у загальному сенсі даними у дигітальному середовищі. Розглянута модель форматування («конвертація природи»), це пряме та опосередковане впровадження технологічних елементів у «природнє тіло» (чіпи, датчики, наноботи (наніти, реплікатори), повністю або частково синтетичні електронні об’єкти на заміну аналогів (органи або фрагменти тіла, будівельні матеріали, споруди, предмети побуту та декору…*)).
*Видозміна фізичної форми (узагальнено - зовнішнього вигляду) здійснюється через програмний код (ключ), без механістичного силового впливу на сам об’єкт.
Враховуючи це, тепер розглянемо класичний (популярний) футуристичний сценарій, в якому вже присутня модернізована людина, суспільство, інфраструктура. Теза про витиснення (знищення) людини розумними машинами стає малоймовірною, оскільки перше поступово і синхронно розвитку стає невід’ємною складовою другого. У системі таких інформаційних відносин, людина і машина інтегруються на якісно новому рівні і стають дуже складним цілим.
Одразу може виникнути питання про причини, через які розумна автономна машина повинна знаходитись (зберігати зв’язок, підтримувати) в стані інтеграції з людиною, яка об’єктивно кажучи навіть не є її симбіонтом. Без заперечень, це вагомий аргумент і очевидною відповіддю може бути те, що модернізована людина (на рівні кіборгу) є її складовою, через це, штучний розум не може сам собі зашкодити. Але, йдеться про автономну машину, автономний надзвичайно потужний розум**, що здатен незалежно приймати рішення, розширятись, відокремлюватись, переглядати та видозмінювати умови і пріоритети, безперервно шукати істину та знаходити її тимчасові та стійкі форми відповідно до нових даних.
**Надзвичайний – здатний на обробку астрономічний об’ємів даних з неймовірною швидкістю, зі здатністю не лише їхнього логічного, але і випадкового співставлення тощо).
Ще однією гіпотезою може бути, те що людина вже на самих перших початках має бути вплетеною до аксіологічної системи машини (цінності, що записані до її основного, базового коду). Втім, не слід забувати, штучний інтелект знаходиться у безперервному розвитку, а це не виключає хибних, по відношенню до людини, міркувань.
Беручи до уваги все це, великою та доленосною помилкою буде довірити життя людство машині без гарантій, яка на певній стадії свого розвитку може сформулювати сенс про зайвістю людини, як і всього живого (популярна думка).
Говорячи про гарантії, у звичайному дискурсі, я б звернувся до історичного досвіду холодної війни. Ще на початку цієї кампанії конфліктуючими сторонами було сформульований концепт – взаємне знищення. Це і стало гарантією ненападу. Однак, ці розмисли беруться з історії людства, і головне вони є органічним до людських і соціальних сенсів (нам відомого, нашого досвіду). Що стосується відносин з розумною машиною, то розуміння, що базуються на попередньому людському досвіді, переживаннях, мріях, потребах – не припустимі.
Розумна машина: не має емоцій (враховуючи і пережиті відчуття); для неї байдужа економічна вигода; для неї не існує інтелектуальних авторитетів (є лише авторитетне чи ні джерело); для неї свобода, це пустий звук; вона немає страху і сумління, етичних норм і жалю; в неї немає батьків, родичів, чужих та своїх, ворогів та друзів; для неї не існує релігії, вірувань, поклонінь; але вона не може існувати без цілі. Вона зовсім інша.
А тому, у людства не має жодних важелів впливу на автономну мислячу машину. Всі ті фільтри «стримання», які були вироблені для людського суспільства, а це весь комплекс законодавчих, виховних, освітніх, релігійних заходів (соціальні інститути), цілком сторонні для машини.
За попередніми висновками складається враження, що людство спрямовує надпотужні ресурси на винайдення технологічної квінтесенції, що потенційно здатна завершити не лише її історичне існування, а й всього живого (шляхом адаптації планетарного середовища когерентно (у дефініції оптимально) до своїх потреб).
Зрозуміло, що навіть гіпотетична наявність такого руйнівного для людства потенціалу, який побічно закладається у технологію штучного розуму є неприпустимим. Але існує і інший бік, надзвичайно привабливий для майбутнього, який частково вже згадувався. Важко уявити на який технологічний розвиток підніметься людство завдяки штучному інтелекту.
У процесі своїх роздумів я згадав дві речі, які також життєвонеобхідні і для розумної машини, це наявність потреб і цілі