Про ИИ

Сделаю вбоквел цикла статей про инверсию Добра и Зла; попробую рассмотреть тему ИИ (искусственного интеллекта) с морально-этической точки зрения. Да-да, так тоже можно; и даже, надеюсь, без скатывания в морализаторство.

Иску́сственный интелле́кт , также ИИ, искусственный ра́зум, в самом широком смысле — научно-технологическая область, занимающаяся изучением и созданием интеллектуальных сущностей, способных «вычислять, как им действовать эффективно и безопасно в самых разнообразных, в том числе незнакомых им, ситуациях», и решать задачи как минимум уровня человеческого интеллекта и реализованных машинами, в частности компьютерными системами.

Несмотря на заявленную моральную направленность статьи, не будем обрушиваться на это нечто с обличениями; это в 146% случаев - признак того самого морализаторства. Мораль - она про общественные представления о хорошем и плохом; и если все, как оглашенные, юзают ИИ, то обличения будут заведомым выходом за моральные нормы просто по определению; даже когда они совершенно верны с точки зрения Истины, сиречь объективной реальности. Поэтому не будем уподобляться, и давайте поковыряемся в вопросе.

Лет пять назад писал про другую мега-хайповую тему (термин "хайп" тогда уже был или нет?) - крипто-валюты. И там показывал, что данная технология приносит людям в основном вред; да, единицы обогащаются, ценой ухудшения жизни (да-да) многих и многих; от цен на компуктерные комплектующие, до энерго-кризисов. Прошло пять лет, и как будто жизнь ничем не учит. Потому что базовые проблемы - всё те же.
 

Про ИИ как финансовый пузырь

Да, первая проблема ИИ (вы же не думаете, что мы тут будем про преимущества? Про это и так - из каждого утюга) - в том, что это оче-видный финансовый пузырь. Можете почитать на эту тему соответствующие статьи, и к чему он обычно приводит. Это мы ещё даже техническую часть разбирать не стали, а уже наступили во всякое. Опять же, не будем впадать в морализаторство - ну нравится вам "быть в тренде", имеете право; но не говорите, что вам не предупреждали. Тут пока что вроде бы и не про мораль, но на самом деле - таки да; как говорится, есть нюанс.

В том же упомянутом выше цикле статей о инверсии Добра и Зла показывал, что современная культура учит людей, как поступать не надо. В отличие от культуры здорового человека (которая после Первого Айфона утратила всякую актуальность), направленной на выживание и человечка, и Общества в целом. Соответственно, если вы что-то используете просто потому, что "все же так делают", в 146% вам потом будет плохо. Напоминаю, что речь про обывателя, который просто побежал туда же, куда и остальные; если вы понимаете, зачем это вам, то тут возможны варианты. Другое дело, что сформулировать, зачем вам это надо, могут не только лишь все. Обычно - просто ради лулзов; либо же, как обычно, ради денег. Тут не грех вспомнить предыдущую статью, в которой упоминал, что нельзя всё время черпать из полезного кувшина и заливать в бесполезный; но то такое. За деньги да; а к чему это приведёт потом, пусть думает А. С. Пушкин.
 

Про ИИ как инструмент

Несмотря на моральную направленность статьи, здесь в основном рассматрю технический аспект проблемы. Для кого-то это может показаться абсурдом - как можно субъективно оценивать объективный технический инструмент? - но главный вотэтоповорот статьи ещё впереди. Оче-видным образом ИИ вмешивается в социальную сферу; значит, его можно оценивать с моральной точки зрения. Но об это - чуть позже.

Сфера применения ИИ достаточно широка, и сложно вспомнить информационную сферу, к которой нельзя было бы приложить цепкие лапы ИИ. Например, задолго до начала раздувания хайпа вокруг ИИ как генератора бреда текстов, задумывался над практическим освоением технологии апскейлинга видео; то есть повышения разрешения (качества) роликов. Я же занимаюсь традиционной культурой, и самыми ценными материалами для нас являются ролики, снятые в аналоговую эпоху, которые потом были оцифрованы в формат "обнять и плакать"; и хотелось бы посмотреть, что там такое, в нормальном качестве. Это вполне себе сфера применения ИИ; хотя и не в том виде, в котором сейчас это видится обывателю. Вообще-то вся эта технология зародилась ещё... в 1950-х под девичьей фамилией перцептрон.
 

Прибытие поезда, апскейльнутое до 4К.

Зачем такое надо, довольно оче-видно; правда, с научной точки зрения это всё смысла не имеет; например, с точки зрения той же этнографии апскейл кино-ленты или фотокарточек - источник фейков; потому что нейросетка достраивает кадры так, как считает нужным; и детали, которые можно рассмотреть в высоком качестве, не являются достоверными. Здесь уже наиболее проницательные листатели могут догадаться, к чему всё это ведёт.

Но это - всё-таки научное применение технологии, которое нужно далеко не всем; с обывательской точки зрения тут сплошные плюсы; можно восстановить старые семейные фото-кино-видео-материалы, и всё такое. Но на этом громкого хайпа не получилось; инструмент тогда остался инструментом.

Хайп начался с появление общедоступных чат-ботов как генераторов текста. Подобные технологии использовались чуть ли не со времён бронзового века, но в узких отраслях, навроде оцифровки текстов или перевода языков. Общедоступность сломала все барьеры, и ИИ ворвался во все сферы информационных технологий; подчёркиваю красным, что речь именно про сферу IT. Которая и так была достаточно хайповой и подверженной финансовым пузырям. Это важно отметить, что сфера применения ИИ ограничена виртуальностью, и чрезмерный интерес к ней (т.е. хайп по-современному) является наглядным показателем виртуализацией общественного сознания в принципе. Но это мы немного забегаем вперёд.

В самой по себе генерации текстов никаких проблем нет, если брать ситуацию сферического коня в вакууме. Попросил бота сделать какой-то текстик, он сделал; сама по себе такая возможность - это же хорошо?.. Тем более, что ответ бота - не просто взятый откуда-то из головы как большинство текстов в интернете, а основан на предыдущей истории запросов, информации из справочников, и так далее. То есть в ряде случаев этот ответ будет более точным, чем информация от других людей, и даже от специалистов в данной сфере, особенно учитывая разделение труда и специализацию - попробуй найти специалистов по культуре майя, резке титана или подлёдному лову в Антарктиде. Плюс не будем забывать о проф. непригодности значительного числа специалистов, особенно в гуманитарной сфере.
 

Про закон Гудхарта

Потихоньку переходим к обличениям; но пока что не со стороны морали. Не так давно писал статью про закон Гудхарта: "когда мера становится целью, она перестаёт быть мерой". Так и ИИ - он хотя и не мера сам по себе, но сейчас ИИ внедряется во все сферы просто для того, чтобы "там был ИИ". Потому что хайп. Вопросы "зачем" и "с какой целью" в современном "обществе" задавать неприлично; всем же ясно, что ради денег.

Проблема тут, как кому бы не показалось странным, в конкуренции. В ней побеждает тот, кто прикладывает меньше усилий за то же количество денег. Соответственно, эта схема понуждает человеков тулить ИИ во все сферы, где это возможно; это просто дешевле. Соответственно, ИИ становится инструментом экономии на сотрудниках. Так как он экономит время, то и простые граждане начинают использовать его там, где это может помочь; зачем мониторить эти ваши интернеты и разбираться в теме, если можно спросить у ИИ?

Собстно, идея статьи появилась после статьи на АШ, где упоминалась информация о том, что половина новых книг и треть веб-контента написаны ИИ. Тут, всё-таки, пока что преувеличение; не "написаны ИИ", а "написаны при помощи ИИ"; но тенденции таковы, что эти цифры будут побиты буквально завтра.

Это приводит к ситуации, когда ИИ начинает учиться не на предыдущем опыте Человечества, а на продуктах жизнедеятельности других ИИ. Как говорит ДимЮрич наш Гоблин, получается пятикратно переваренный кал, пардон за мой французский. Причём с ИИ соревноваться в производстве контента бесполезно, как играть в шахматы с голубем; и со временем вся информация в этих ваших интернетах будет состоять из ИИ-контента. Так бывший помошник подменяет собой суть и смысл любой инфо-деятельности. А средство улучшения превращается в средство экономии и, сталбыть, ухудшения.
 

Про Ложь

И вот только теперь переходим к сути статьи. Речь сейчас пойдёт за моральные аспекты, которые обычно принято применять всё-таки к человекам, а тут придётся прикидывать их к электронному болвану; но так как он рассматривается пока ещё как помошник а то и хозяин человеков, то вполне можно и рассмотреть морально-этические вопросы.

Первое, оно же главное - для ИИ не существует понятия "Ложь" в моральном смысле; только в информационном: метр больше сантиметра; ложь или истина?.. Поэтому, когда ИИ ошибается, это не Ложь, это просто ошибка или заблуждение.

Однако, если вспомнить предыдущий абзац, то можно заметить, что ИИ вторгается во все информационные сферы, и используется повсеместно. Он не может не ошибаться, и генерирует массу бреда, который зачастую сложно отличить от Истины даже специалисту (см. выше). Иногда он действительно намеренно придумывает информацию, то есть с точки зрения человека лжёт; но он по определению так не умеет, он "всего лишь" пытается выполнить свою задачу. В итоге получается вполне себе нормальная человечья Ложь, если рассматривать её с социальной точки зрения - нечто намеренно искажает Истину, иногда непреднамеренно, а иногда и ради собственной Выгоды, в каком бы странном виде она ни могла бы существовать.

Ситуация усугубляется тем, что ИИ действительно выполняет чьи-то запросы, а пока что не генерирует свои собственные (тогда бы это уже был "сильный ИИ", до которого пока что дело не дошло; писал на эту тему вот тут, 10 лет назад). Соответственно, результаты "творчества" ИИ используются "авторами контента", весь креатифф которых состоял из запроса к ИИ.

И здесь возникает вполне себе моральная проблема - если ИИ ошибается и намеренно генерирует Ложь с информационной точки зрения, то "аффтар контента" может об этом... даже не догадываться. Он же спросил у ИИ, тот ответил; и потом на этом уже делаются деньги. Да-да, именно так - продукты жизнедеятельности ИИ сплошь и рядом используются в коммерции, иначе на кой бес они были бы нужны - фото с котами анимировать или бабусек открытками с днём рождения поздравлять? Соответственно, некто продаёт лживый продукт, при этом иногда даже не догадываясь об этом. И кто виноват - ИИ или выгодоприобретатель?..

Несколько лет назад писал статью про Ложь; современники вообще не понимают, что в этом понятии такого; не обманешь, не продашь. И ведь это было ещё до эпохи доминирования ИИ в инфо-сфере; сейчас, как можно видеть выше, Ложь вообще исчезает из общественного сознания, путаясь с ошибками и заблуждениями. Но это же так не работает; если ты не понимаешь, что такое Ложь и не пытаешься с ней бороться, то автоматически... игнорируешь Истину. То есть все движения в инфо-сфере превращаются в бессмыслицу; одинаково важна (точнее, не-важна) и Ложь, и Истина. Что противоречит самим базовым принципам информатики, основанной на логике "истина/ложь".

И в деле размывания моральных норм инструмент по фамилии ИИ сейчас занимает лидирующие позиции. Да, именно так. Дело не в том, что он - порождение Сотоны и подлежит анафеме; а в уже и до того действовавших общественных нормах. Разница - как между танком "Тигр" и "Т-34". Вроде и тут и там - машина для убийства, но в одном случае - орудие войны, а в другом, как ни странно - орудие мира. И пока что у нас на руках - Тигры с Пантерами, а Т-34, КВ и ИСы пока не завезли.

Дело тут не в том, что "то, что одному хорошо, другому плохо". Это - готентоттская мораль, что мы тут решительно осуждаем. Без понимания, зачем мы используем то и сё, в современных условиях инверсии Добра и Зла (см. соответствующий цикл статей) мы будем использовать любой инструмент во Зло. Думая при этом, что наоборот, несём Добро - ведь это проще и дешевле! Но с точки зрения общественного выживания всё это - чистое и незамутнённое Зло.

Не будем забывать и о феномене брейнрота, накрывшего Человечества ещё до наступления эры ИИ; перегрузка мозга бессмысленной информацией вполне неиллюзорно ему вредит. ИИ-контент по определению бессмысленнен; в массах уже начинает копиться отторжение ИИ-контента, но раз за деньги да, то увы всем нам. В других условиях, когда информации было бы слишком мало, от ИИ была бы несомненная польза; пока что, увы, от него в основном - вред для общества. По крайней мере, в социальной сфере. Не готов говорить за применение ИИ в производстве, программировании и прочая, но в качестве генератора контента он пока что выступает против Человечества в целом.

Напоминаю, что дело - не в самом по себе инструменте, а в общественных установках (сиречь морали), которым всё равно, Добро-Зло, Ложь-Истина; понять и простить. В таких условиях что угодно превращается со временем в инструмент Зла.
 

Анафема. Нашёл только такую версию, хотя точно были варианты лучше.

Это к тому, что Добро и Зло надо понимать буквально, с точки зрения определений, а не как некое мнение неких "икспердов", вне зависимости от того, наряжены ли они в рясы, косоворотки или вышиванки. Если они не отрицают ценности "за деньги - да", то вся их болтовня - что твой ИИ-контент.

Оригинал статьи, как обычно, у меня в ЖЖ.