Статья хорошая, но всё это уже было в манифесте унабомбера. Это не ии умный - это мы тупые, поэтому технологии нас закопают.
ок.

pakt, понятно, что статья не революционная. Но для меня очевидная (добавил картинку в запись) - я же нынче IT-аналитик, я по тем же принципам вынужден задачи программистам ставить - иначе результат будет непредсказуемым.

MMM Картинка хорошо отражает принцип модальной логики, об которую многие хуй вытирают, т.к. это пустодрочерство, не привязанное к эмпирике. Ну, типа, чтобы модальная логика эффективно работала, нам нужно подать истинное знание на вход. В реальности люди пляшут от эмпирики, а не от подвешенного в воздухе несовершенного утверждения в рамках мысленного эксперимента. От проб и ошибок, ага.

Я ж говорю, все эти проблемы лучше всего сформулированы в манифесте унабомбера.

172. Во-первых, давайте примем без доказательств, что специалисты по компьютерной технике преуспели в развитии машин с искусственным интеллектом, которые могут делать всё гораздо лучше, чем люди. В этом случае, вероятно, вся работа будет выполняться пространными, высоко организованными системами машин, а в человеческих усилиях просто не будет необходимости. Может произойти одно из двух. Машинам может быть позволено принимать все свои решения без человеческого надзора, или же человеческий контроль над ними будет сохранён.


173. В случае, если машинам будет позволено самим принимать решения, мы не можем сделать никаких предположений в отношении последствий, потому что невозможно догадаться, как такие машины будут себя вести. Мы лишь укажем, что судьба человеческой расы окажется отданной на милость машин. Можно привести доводы, что человеческая раса никогда не будет настолько безрассудной, чтобы отдать им всю власть. Но мы не будем предполагать ни того, что человеческая раса не передаст добровольно власть машинам, ни того, что они своевольно захватят её. Что мы предположим, так это то, что человеческая раса может легко позволить себе втянуться в такую зависимость от машин, что у неё практически не будет никакого выбора, кроме как принимать все их решения. Так как общество и все проблемы, с которым оно сталкивается, становится всё более и более сложным, а машины становятся всё более и более разумными, люди позволят им принимать большинство решений за них, просто потому, что решения, принятые машинами, принесут лучший результат, чем принятые людьми. В конце концов дело может вступить в такую стадию, что решения, необходимые для сохранения работоспособности системы, будут настолько сложными, что люди окажутся просто неспособными благоразумно разрешить их. На этой стадии фактически будут управлять машины. Люди же просто не смогут выключить их, потому что они будут уже настолько зависеть от них, что их отключение будет равносильно самоубийству.


174. С другой стороны, вполне возможно, что контроль людей над машинами сохранится. В этом случае средний человек будет контролировать лишь определённые принадлежащие лично ему машины, вроде автомобиля или персонального компьютера, а крупными системами машин будет управлять крайне малочисленная элита, прямо как сегодня, но с двумя отличиями. В результате усовершенствованной техники элита будет иметь гораздо больший контроль над массами; и так как необходимость в человеческой работе отпадёт, население окажется чрезмерно избыточным, оно станет бесполезной нагрузкой для системы. Если элита будет жестокой, она может решить просто ликвидировать большую часть человечества. Если гуманной, она может использовать пропаганду или другие психологические или биологические методики для снижения уровня рождаемости до тех пор, пока большая часть населения не вымрет, оставив ей весь мир. Или, если элита будет состоять из мягкосердечных либералов, они могут решить играть роль добрых пастырей по отношению к остальной человеческой расе. Они будут заботиться о том, чтобы физические нужды каждого были удовлетворены, чтобы все дети вырастали в условиях психологической гигиены, чтобы у каждого было какое-нибудь полезное хобби — с целью держать его занятым, и чтобы любой, кто окажется чем-то неудовлетворённым, подвергался «лечению» — с целью исцеления его «проблемы». Естественно, жизнь будет настолько бессмысленной, что людей придётся психологически или биологически переконструировать: либо для того, чтобы устранить у них потребность в процессе власти, либо для того, чтобы принудить их «сублимировать» её в какое-нибудь безобидное хобби. Переконструированные человеческие существа могут быть счастливы в таком обществе, но, несомненно, они не будут свободны. Они будут понижены до статуса домашних животных.


175. Но представим теперь, что специалисты по компьютерной технике не преуспели в развитии искусственного интеллекта, и человеческий труд по-прежнему необходим. Даже при таких условиях машины будут всё больше и больше брать на себя выполнение простых задач, так что избыток рабочих низкой квалификации будет постоянно расти. (Мы считаем, что это уже происходит. Существует множество людей, которым трудно или невозможно найти работу, потому что по умственным или психическим причинам они не могут получить уровень образования, необходимый для того, чтобы стать полезными для существующей системы.) На тех, кто удержится на работе, будут возлагаться постоянно растущие требования: им будет необходимо всё большее и большее образование, всё большая и большая квалификация, от них будет требоваться всё большая верность, подчинение и покорность, потому что они будут всё больше и больше уподобляться клеткам гигантского организма. Их задачи будут становиться всё более и более специализированными, так что их работа в известном смысле потеряет связь с реальным миром, она будет сосредоточена лишь на его крошечном сегменте. Система будет принуждена использовать любые средства, которые только сможет, будь то психологические или биологические, чтобы люди стали покорными, чтобы они обладали требующимися системе способностями, чтобы они «сублимировали» свою потребность во власти на какую-то специализированную задачу. Однако, утверждение, что люди такого общества будут принуждаться к покорности, требует уточнения. Общество может признать полезной конкурентоспособность, при условии, что будут найдены методы, направляющие её по служащим потребностям системы руслам. Мы можем представить будущее общество, в котором будет царствовать нескончаемое соперничество за престиж и положение во власти. Но не более чем горстка людей будет всегда добираться до самого верха, на котором единственно и сосредоточена реальная власть. Крайне отталкивающим выглядит общество, в котором личность сможет удовлетворить свою потребность власти, лишь сбрасывая остальных с дороги и отнимая у них ИХ возможности добиться власти.


176. Также можно рассмотреть сценарии, состоящие из некоторых аспектов других, только что обсуждённых нами. Например, может сложиться так, что машины возьмут на себя большую часть работы практического назначения, а занятость людей будет сохраняться возложением на них сравнительно незначительной работы. Предполагается, например, что обеспечить их работой сможет существенное развитие индустрии обслуживания. Таким образом, людям придётся коротать своё время, начищая друг другу обувь, катая друг друга на такси, ремесленничая друг для друга, накрывая друг другу столы и т. д. Такое завершение существования человеческой расы представляется нам совершенно отвратительным, и мы сомневаемся, что многие люди сочтут нормальным жить такой бессмысленной работой. Они начнут искать другие отдушины, несомненно, опасные (наркотики, преступность, «культы», разжигающие ненависть группировки), если не будут биологически или психологически реконструированы для приспособления к такому образу жизни.


177. Не стоит и говорить о том, что обрисованные выше сценарии не исчерпывают всех возможностей. Они лишь показывают характеры исходов, которые кажутся нам наиболее вероятными. Но мы можем предложить и неправдоподобные сценарии, не намного приятнее тех, которые мы только что нарисовали. Очень вероятно, что если индустриально-технологическая система перенесёт последующие 40-100 лет, к тому времени она разовьёт определённые общие характеристики: индивидуальности (по меньшей мере те из «буржуа», которые интегрированы в систему и заставляют её двигаться, и которые, следовательно, обладают всей полнотой власти) будут больше, чем раньше, зависеть от крупных организаций; они будут гораздо больше, чем раньше, «социализированы», а их физические и умственные способности в значительной степени (возможно, просто в огромной) станут такими, что скорее уже будут реконструированными, нежели изначально предоставленными случайностью (или Божьей волей, или чем-то там ещё); то же, что останется от дикой природы, будет низведено до жалких остатков, предназначенных для научных исследований и сдерживаемых наблюдением и контролем учёных (поэтому они не будут подлинно дикими). Вполне возможно, что со временем (скажем, через несколько веков) ни человеческая раса, ни какие-то другие важные организмы не будут существовать такими, какими мы их знаем сегодня, потому что как только вы начинаете модифицировать их посредством генной инженерии, уже нет никакого смысла останавливаться на каком-то определённом этапе, так что изменения скорее всего будут продолжаться до тех пор, пока человек и другие организмы не окажутся совершенно переделанными.


178. Определённо, что ещё нужно учесть, так это то, что технология создаёт для человеческих существ новую физическую и социальную окружающую среду, совершенно не вписывающуюся в диапазон тех сред, к которым естественный отбор физически и психологически приспособил человеческую расу. Если человек не адаптируется к этой новой среде, будучи искусственно реконструированным, он приспособится к ней посредством длительного и болезненного процесса естественного отбора. Первое гораздо более вероятно, чем второе.


179. Не лучше ли свалить всю эту смердящую систему и захватить то, что от неё останется.

ИИ - это самый хайп щаз. У меня есть мультиварка на которой написано, что ИИ там. При этом этот ИИ не дает выставить температуру ниже 90 граудсов и потому сделать нормальную кашу, а интерфейс там настолько крив, что непонятно вообще как это дошло до потребителя

176 пункт абсолютный провал, да для технократа это не понять, но люди с удовольствием занимаются ремеслом и прочим, будучи даже более счастливыми

Как будто в половине продуктов программистов и работе прочей ай-ти-братии, больше смысла

Ну и да, ИИ пока сильно преувеличен, то что нейросети делают лучше дженерик картинки и тексты, говорит только о вычислительной мощности, а не о интеллекте.

Super Bubba п.176 не провал, если читать качинского целиком, и понимать его трактовку работы в индустриальном обществе. Он всю отчуждаемую работу считает бессмысленной. И чем дальше - тем хуже, т.к. индустриально-технологическое общество не может быть реформировано, а его развитие неизбежно ведёт ко всё большему ограничению свободы:

119. Система не существует и не может существовать для того, чтобы удовлетворять человеческие потребности. Наоборот, человеческое поведение принудительно корректируется, чтобы соответствовать требованиям системы. Этот процесс не имеет ничего общего с политической и социальной идеологией, которую якобы проводит технологическая система. Это вина технологии, потому что система управляется не идеологией, но техническими требованиями. Конечно, система удовлетворяет множество человеческих потребностей, но, вообще говоря, она делает это только в пределах того, что идёт на пользу ей самой. Главенствуют потребности системы, а не человека. Например, система обеспечивает людей пропитанием потому, что она не сможет функционировать, если все умрут от голода; она заботится о психических потребностях людей всякий раз, когда может БЕЗ ТРУДА удовлетворить их, потому что она не сможет действовать, если слишком много людей впадут в депрессию или начнут бунтовать. Но система, по достаточным, веским и практическим причинам, должна оказывать постоянное давление на людей, чтобы сформировать их образ действий в соответствии со своими потребностями. Накопилось слишком много отходов? Правительство, СМИ, система образования, специалисты по проблемам окружающей среды, все завалят нас чрезмерной пропагандой утилизации отходов. Требуется больше технического персонала? Хор голосов убедит детишек обучаться науке. Никто не прервётся, чтобы спросить, а гуманно ли это — принуждать молодёжь проводить массу времени за изучением дисциплин, которые большинство из них ненавидят. Когда квалифицированные рабочие вытесняются с работы техническими усовершенствованиями и принудительно отправляются на «переподготовку», никто не спросит, не унизительно ли им подвергаться такому третированию. Считается прямо-таки доказанным, что все должны подчиняться технической необходимости и достаточному основанию: если человеческие потребности поставить выше технической необходимости, возникнут экономические проблемы, безработица, дефицит или ещё что похуже. Концепция "психического здоровья" в нашем обществе определяется главным образом рамками, в которых индивидуум ведёт себя в соответствии с требованиями системы, причём делает это без проявления признаков стресса.


120. Попытки дать место внутри системы осознанию цели и самостоятельности ненамного отличаются от издевки. Например, одна компания, вместо того, чтобы давать каждому работнику монтировать только одну деталь из каталога, давала собирать все детали из него, воображая, что предоставляет своим сотрудникам ощущение цели и её достижения ... Аналогичным образом на любом предприятии внутри социальной системы рабочие должны направлять свои усилия на осуществление целей работодателей, в противном случае предприятие не будет отвечать своему назначению как составляющей системы. Ещё раз, в индустриальном обществе по исключительно техническим причинам большинство индивидуумов или малых групп просто не могут обладать большой самостоятельностью. Даже представитель малого бизнеса, как правило, имеет ограниченную независимость. Кроме обязательного государственного регулирования он сдерживается тем обстоятельством, что должен приспосабливаться к экономической системе и соответствовать её требованиям. Например, когда кто-то развивает новую технологию, представитель малого бизнеса часто, хочет он этого или нет, вынужден применять эту технологию для того, чтобы оставаться конкурентоспособным.


***

Но если наебнуть индустриальное общество, и вернуться к "раньше было лучше" - работа станет осмысленной, т.к. будет напрямую, непосредственно (а не опосредованно) связана с выживанием и продолжением рода, воооот.

"Ремесло и прочее" - в его топике - это не осмысленная работа, а подмена, имитация осмысленности.

Ну Унабомбер же с глузда съехал. Поправь меня, он хочет низвергнуть систему, что автоматически остановит прогресс и тогда люди станут заниматься имитацией осмысленности (ремесло и прочее). Правда теперь это будет не имитацией, потому что будет осмысленно, так как появится прямая необходимость в ремесле.

Ну то есть смысл у него есть в манифесте и внутренняя логика, но по факту он выступил таким же винтиком системы - своими действиями дал работу силовикам (они искали его) и доказал общественному мнению, что он с глузда съехал.

Вот есть такой чувак AlexGyver, он одно время клепал поделки под Arduino. Ну так вот, решил он попробовать, как ChatGPT ему напишет под него проект:

*video*

Короче, я для себя вынес из этого очень простой вывод. ИИ может делать базовые вещи, по которым есть примеры. Если что-то выходит за предел базовой сложности - он ее достигает комбинацией простых и известных ему вещей. То есть, начинается индусский код write-only. Сам так когда-то делал - из-за недостатка знаний, опыта и документации в 90х.

Конечно, то что он вообще сам пишет код - для меня сродни какой-то чудесатости, но если оценивать применимость этого кода - его качество пока сильно ниже планки ожиданий. Но это пока, и в этом стоит отдавать себе отчет.

Super Bubba
>> ну Унабомбер же с глузда съехал.

Вроде бы не особо.

>> Поправь меня, он хочет низвергнуть систему, что автоматически остановит прогресс и тогда люди станут заниматься имитацией осмысленности (ремесло и прочее).

Ну да, неолуддизм.

>> Правда теперь это будет не имитацией, потому что будет осмысленно, так как появится прямая необходимость в ремесле.

Верно.

>> Ну то есть смысл у него есть в манифесте и внутренняя логика,

Вполне себе.

>> но по факту он выступил таким же винтиком системы - своими действиями дал работу силовикам (они искали его) и доказал общественному мнению, что он с глузда съехал.

Он отдельно рационализировал и обосновал свои действия по пиару книжки - мол, привлечь внимание к проблеме в индустриальном обществе можно только бигбадабумом. Это была его пиар-компания - и расчёт вполне сработал. Поэтому на мой взгляд - нет, кукухой он не съехал, он вполне отдавал отчёт своим действиям. Поступил аморально - да, но и рационально тоже.

К тому же, там ещё отдельный сложный вопрос - является ли автор манифеста и автор бомб одним и тем же человеком.