Едва только Илон Маск со своими собутыльниками успели выпустить свою открытую маляву, как на трибуну залез еще один ИИ-озабоченный - Элизер Юдковски. Этот товарищ выделяется своей отбитостью даже на фоне обычных прогрессивистов (это что-то вроде того чтобы быть уволенным из гестапо за жестокость). Так именно он отец-основатель сетевого сообщества рационалистов Less Wrong, которое отлично показало какое оно насквозь рациональное в инциденте с Василиском Роко. И вот на днях Юдковски осчастливил нас твоим триггером на появление ChatGPT:

 

Специалист в области искусственного интеллекта Елиэзер Юдковский (Eliezer Yudkowsky) призвал ограничить вычислительные мощности для обучения ИИ во всём мире. Более того, он выступил с довольно смелым предложением — уничтожать ЦОД большой производительности, если любая из стран попытается построить такие мощности. Впрочем, сам Юдковский сделал как никто много для ускорения развития «общего искусственного интеллекта» (AGI).

 

Юдковский является специалистом по «регулированию ИИ» в соответствии с целями и задачами, которые ставят разработчики — для того, чтобы тот не причинил вреда случайно или целенаправленно. Он опубликовал заметку в Time Magazine, в которой отчаянно бьёт тревогу, утверждая, что само существование человечества и даже биологических форм жизни находится под вопросом из-за неконтролируемого развития ИИ — если кому-нибудь удастся построить достаточно производительный ИскИн, способный осознавать себя.

В OpenAI заявили, что планируют решить проблему «регулирования», построив ИИ, который сможет настраивать основополагающие принципы работы других искусственных интеллектов. Юдковский раскритиковал OpenAI за недостаточную прозрачность работ и подчеркнул, что недавнее открытое письмо, подписанное Илоном Маском (Elon Musk) с тысячей других IT-экспертов и призывающее к полугодовому мораторию на крупные ИИ-разработки, не отражает настоящей ситуации, поскольку такие исследования следовало бы прекратить навсегда.

По мнению учёного, изучение безопасности ИИ должно занимать десятилетия, а не месяцы. Учёный призвал запретить крупные эксперименты по изучению ИИ навсегда и везде, без исключений для государственных и военных ведомств. Более того, он предложил заключить многосторонние соглашения, предусматривающие не только ограничения на создание ЦОД с большим числом ускорителей, но и снижение квот по мере того, как будут разрабатываться всё более совершенные алгоритмы обучения.

Если же спецслужбы выяснят, что страна, отказавшаяся от вечного моратория, закупает компоненты и занимается строительством ЦОД для AGI, такие ЦОД следует уничтожать авиаударами, поскольку любой конфликт между странами будет менее пугающим, чем война между человечеством и искусственным интеллектом. По мнению Юдковского, при попытке создания сверхчеловеческого разума ни в коем случае нельзя допускать ошибок — возможности исправить их уже не представится.

Источник:

Откровенно говоря, наблюдать за тем какой переполох вызвал продвинутый T9 под названием "ChatGPT" среди всевозможных прогрессивистских проповедников, довольно забавно - вот только выражение "Было бы бы смешно, если бы не было так грустно" здесь как нельзя кстати. Мечты многочисленных юдковски об авиаударах по лабораториям занимающимся неугодными исследованиями - это не просто призывы неких маргиналов, но воля людей в какой-то мере определяющих повестку дня. Так например, сама OpenAI сделала свою новую языковую модель GPT-4, проектом с закрытым исходным кодом, мотивируя это именно профилактикой рисков ИИ. А Марк Ротенберг один из подписантов открытого письма Илона Маска и Co, подписанием не ограничился и подал жалобу в Федеральную торговую комиссию США (FTC) с требованием ЗОПРЕТИТЬ. По сути, мы превращаемся в средневековый Китай, где действительно появлялись интересные разработки, такие как порох, компас, бумага, вот только из-за того что делались они в негибком стагнирующем обществе, неспособном к развитию, оные новшества и оставались на уровне всего лишь забавных игрушек. 

Отдельный привет хочется передать и некоторым наивным поцреотам, думающим что в случае прихода в США к власти радикальных социалистов, вроде Александры Окасии-Кортес, американская гегемония во всем мире будет свернута. Нет, дорогие мои, как показывает пример Юдковски, в случае в Метрополии к власти прорвутся тамошние светлоликие, мы будем с теплом и добрым словом вспоминать эпоху "крылатой демократии". Ибо в этом случае, американская военная машина будет уже откровенно и полномасштабно использоваться для построение Нового Мирового Порядка.