Ашманов призывает приостановить исследования в области ИИ

Если народу будет заходить всё это фальшивое - значит получается оно будет не хуже "настоящего". Ну а если не будет заходить - то и нет проблемы!

> ну то есть ничего особо не поменяется
Хотел написать что-то подобное, но просто плюс тебе поставлю.
Они боятся потерять монополию на фальш.

И где он призывает? Кликбейтный заголовок не имеет отношения к рассуждениям Ашманова.

> И где он призывает? Кликбейтный заголовок не имеет отношения к рассуждениям Ашманова

Это ж Вотт, по ссылкам ходить моветон.

Они в подавляющем большинстве не наши. За ликбез - спасибо

Комментарий скрыт из-за негативного рейтинга.

> не минусил,

Товарищу Legioneer простительно. Уверен, что он действительно не знал, ибо в последние годы ему было не до чтения статеек про ИнфоБезу. Так что скажем ему, что Ашманов - наш, правильный параноик, который давно талдычит, что в этой вот информационной социальной инженерии мы проигрываем.

Заголовок на вотте "Ашманов призывает приостановить..." - ложный. В источнике заголовок нормальный - "О призывах приостановить...", комментарий Ашманова о призывах Маска и ко:

> 4. С моей точки зрения, призыв "остановитесь"окажется не услышанным. Никто ничего не остановит.

В итоге заголовок на вотте полностью обратный содержанию.

Западные партнёры тоже призывают не развивать ИИ, хотя сами 100% продолжат это дело.

А кто и на чем будет учить что вот это правда, а это фальшивка? Эльфы, гномы или люди? У каждого своё представление о том что должно быть правдой, а что - фальшивкой.

> Это ж Вотт, по ссылкам ходить моветон.

Некоторые по ссылкам не ходють ещё и по объективным причинам. У меня например не кажет, даже через ВПН. Поэтому копипастить содержание в комменты в наше непростое время это не роскошь.

> Они боятся потерять монополию на фальш.

Какие "они"?

> Кто этот чел, что его мнение должно быть для нас важно?
> То есть мы перестанем делать ненастоящие тексты и изображения и за нас для нас их как обычно сделают в странах свободной демократии?!

Довольно грамотный гражданин в области IT и влияния этой сферы на мозги.
В частности, один из авторов книги "Цифровая гигиена", которую вполне рекомендую.

Собственно текст:
Ашманов Игорь Станиславович
Генеральный директор компании «Ашманов и партнеры», президент компании «Крибрум»

О призывах приостановить исследования в области искусственного интеллекта
30 марта 2023

- Тут нужно сказать о многих важных аспектах этой истории, - отмечает Игорь Ашманов,комментируя призывы Маска и Возняка приостановить тренировки систем мощнее GPT-4 и опасения российских IT-экспертов.

1. Прежде всего, мы наблюдаем очередной гигантский медийно-технологический пузырь, причём разработчики ИИ – изнутри. Поэтому многое искажено продвиженцами, "евангелистами", журналистами, медийной истерикой, как это было с "блокчейном, который изменит мир" 4-5 лет назад.
Многое окажется не совсем так или совсем не так, как сейчас представляется и рассказывается. Так что текст ниже нужно читать, имея в уме эту оговорку.

2. Но. Это вроде бы действительно технологический прорыв, подобный выходу в космос. В этот когнитивный космос– на этот раз – американцы вышли раньше нас. Однако, это выход не в безвоздушное пространство, а в социальное и ментальное пространство, где обитаем мы все, поэтому последствия могут быть тектоническими. В первую очередь для социума, прав граждан, государственной безопасности.

3. Социальные риски тут огромные. Технологии, подобные GPT4 и ChatGPT, позволяют имитировать общение, писать тексты, программы, создавать видео и фотоматериалы, практически неотличимые от созданных людьми.

Во-первых, это создаёт угрозу профессиям, и людям, в них занятым. Сейчас в сети – огромный энтузиазм "продвинутых", быстрее других научившихся этим пользоваться, вплоть до того, что уже масса объявлений о курсах по использованию GPT. Уже начинают золотоискателям продавать кирки и джинсы.
Энтузиасты, "евангелисты", рассказывают об использовании GPT в ведении блога, в рекрутинге - полный цикл от анализа и подбора резюме соискателей до интервью и отбраковки их, вплоть до принятия автоматического решения о найме; в маркетинге, в генерации текстов (копирайтинг), в программировании, в переводческом бизнесе, в медицине, в управлении бизнесом.

У тех, кто сейчас считает, что он шустрее других сообразил, ухватил Жар-Птицу за хвост, есть восхитительная, духоподъёмная иллюзия, что теперь Жар-Птица и будет делать за них всю их работу, а им будет оставаться только давать ей затравку ("промпты") и нажимать кнопку исполнения.

Но ведь если ты только и нужен нажимать кнопку - зачем ты тогда нужен вообще? И чем ты лучше других нажимателей – все ведь научатся нажимать кнопку? Мы увидим вскоре не только замену человеческих интеллектуальных продуктов сгенерированным автоматически шлаком, не только массовые увольнения людей, заменяемых этими генераторами, но и катастрофическую потерю компетенций людьми, оставшимися на работе.

Во-вторых, мы вступаем в эпоху фальсификации всего. Теперь нас будут окружать ненастоящие тексты, ненастоящие картины и фото, ненастоящие музыка и новости. Фальшивая история, фальшивая наука, фальшивое образование, фальшивое всё.

Естественно, фальсификация будет со всех сторон. Как вы думаете, если резюме соискателей будет искать и оценивать GPT - то кто будет писать для соискателей эти резюме и общаться за них с автоматическим рекрутером?

В-третьих, это огромный рывок для цифрового криминала. Если раньше вор или уличный мошенник должен был в реальном мире работать индивидуально с одной жертвой, если потом он стал покупать украденные в бане или мобильном операторе персональные данные и обзванивать потенциальных жертв десятками или сотнями в день, отбирая 2% внушаемых (такова сила цифровых технологий), то как вы думаете, кто теперь будет заниматься собственно "разводкой", диалогом с потенциальной жертвой и оценкой того, "ведётся" пенсионер на том конце на разводку или нет?

Можно предположить, что количество мошеннических звонков, фишинговых писем, любых разводок вырастет на порядки, и их эффективность - тоже.
Естественно, теперь можно создать любую убедительную видеосцену с нужными лицами и голосами - как для разводок типа "мама, я в полиции, меня посодют, вышли денег", так и для политических фейков, вбросов, государственной и антигосударственной пропаганды. Теперь бабушку нужно не учить осторожности, а отнимать смартфон и доступ в Интернет - потому что до неё будут достукиваться десятки раз в день очень убедительные, гипнотические цифровые сущности.

Человечество сейчас, по сути, впадёт в цифровой сон, огромную, непрекращающуюся цифровую галлюцинацию. И оно довольно скоро бездумно и радостно разрешит этой галлюцинации управлять собой, передаст ей ответственность и право принимать решения о людях.

В-четвёртых, это очень перспективная военная технология, как любой ИИ и любая "цифра". Военные применения этого – тема отдельного разговора.

4. С моей точки зрения, призыв "остановитесь"окажется не услышанным. Никто ничего не остановит. Создатели GPT4 знают, что они совершили прорыв, у них эйфория. Конкуренты также пытаются догнать - Фейсбук выпустил свой аналог Lama, Гугл изо всех сил догоняет. Это всё компании, связанные с американской военной сферой и разведкой. Никто им не даст остановиться. Это же военное преимущество.

Будет создан толстый слой приложений, расширений, протоколов доступа поверх этих облачных сервисов, появятся решения, которые можно будет скачать на каждый сервер, ноутбук и смартфон.

Естественно, Китай уже делает две (или более) таких технологии. В нашей стране как минимум в Яндексе и в Сбербанке также дана команда догонять. Можем ли мы догнать, при нехватке железа, денег, людей и самой ИТ-индустрии – также тема для отдельного разговора.

5. Что делать? Пока не очень понятно. Нужно разбираться на самом высшем государственном уровне. Это экзистенциальная угроза для общества и государства.

Рассуждения экспертов про то, что так-то ничего страшного, просто нужен этический кодекс использования ИИ, что нужны просто регуляторика, законодательные ограничения на международном уровне - нерелевантны, потому что владелец технологии США никаких ограничений вводить не собирается, считая себя лидером. Зачем же лидеру ограничивать себя? Напомню, что на международном уровне так и не удалось достичь никаких серьёзных договорённостей по информационной безопасности - за 20 с лишним лет. США всегда торпедировали эти попытки, будучи главным источником кибер-угроз.

У нас в стране такой Кодекс этики ИИ введён примерно полтора года назад. И что? Подписанты (добровольные!) – свой же Кодекс массово не исполняют, продолжают эксплуатировать ИИ в хвост и гриву, без оглядки на Кодекс, права граждан и даже законы. В добровольном "отраслевом" Кодексе ИИ нет ни механизмов контроля, ни санкций за нарушение.
Закон 152-ФЗ о персональных данных также грубо нарушается всем цифровым бизнесом и государственными организациями

Да, нам нужно срочно выработать понимание проблемы на государственном уровне, выработать государственную волю, ввести ограничения, придумать технологический ответ - не только симметричный ("щас тоже сделаем такое"), но и асимметричный - по контролю, блокированию и т.п. И осознать огромную военную угрозу за всем этим.
Больше сейчас сказать по существу нельзя: нужно запустить процесс осознания этого пучка угроз на уровне нации.

> Спасибо, погляжу!

Вотт ещё держи
[censored]

> Заголовок на вотте "Ашманов призывает приостановить..." - ложный. В источнике заголовок нормальный - "О призывах приостановить...", комментарий Ашманова о призывах Маска и ко:
>
> > 4. С моей точки зрения, призыв "остановитесь" окажется не услышанным. Никто ничего не остановит.
>
> В итоге заголовок на вотте полностью обратный содержанию.

Фраза Ашманова "С моей точки зрения, призыв "остановитесь" окажется не услышанным. Никто ничего не остановит." - это СОЖАЛЕНИЕ о том, что "никто ничего не остановит". А сам то он как раз за.

Пластмассовый мир победил (ц)

> Какие "они"?

Кожаные, те кто кто пичкают нас: ненастоящими текстами, ненастоящими картинами и фото, ненастоящей музыкой и новостями. Фальшивой историей, фальшивой наукой, фальшивым образованием, фальшивым всем."

> Фраза Ашманова "С моей точки зрения, призыв "остановитесь" окажется не услышанным. Никто ничего не остановит." - это СОЖАЛЕНИЕ о том, что "никто ничего не остановит". А сам то он как раз за.

Да, он сожалеет, но всё же не призывает, т.к. это бессмысленно. Любой, кто остановится, - лишь отстанет от других.

> Если джина выпустить из бутылки, то его обратно загнать нельзя.

"Я знаю много способов разозлить медведя и выманить его из берлоги. Но не знаю ни одного как загнать его обратно.
©

Камрад, без подколов, просто сложилось впечатление, что Вы хоть немного разбираетесь в теме. Я все силюсь понять: какой уровень железа нужен для работы нейросетей типа GPT ? То заявляется необходимость кластера с кучей супер мега процессоров от нвидиа, то появляются кучи новостей аля "погромист создал аналог чат жпт за 600$ ,две ночи и ящик пива". В пользу второго на личном опыте говорит факт, что тот же Stable Diffusion отлично и обучается и работает на моем дохленьком i5. Вообщем непонятно и через призму этого вопроса насколько тогда вообще нашей стране по силам создать сколько-либо адекватный аналог того же GPT, если окажется что работать он будет только на спец оборудовании.

> Я с недавних пор использую исключительно "мувитон"

А можно ещё Louis Vuitton

По разному, от задачи зависит. Stable Diffusion запустится на 6Гб Nvidia и будет работать, но это локальный инстанс, которому не нужно обрабатывать массу запросов. А вот система видеоаналитики с распознаванием лиц и прочих объектов, к примеру в том же Московском метрополитене, требует внушительного ЦОДа.
И обучать новые модели тоже затратно по ресурсам и времени, + еще нужны огромные дата-сеты.

По поводу спец оборудования оно уже так и оказалось, по большей части. В основном все современные сетки пишутся с прицелом на GPU Nvidia и их фреймворк. Альтернатива - китайские arm процессора, Kungpeng к примеру. Но с ними есть свои нюансы.

> какой уровень железа нужен для работы нейросетей типа GPT ?

Практически любой от одной видеокарты до бесконечности. Чем больше железа, тем быстрее сеть будет обучаться и быстрее выдавать результат. Обученную и оптимизированную нейросеть можно реализовать в железе в виде, например, чипа для смартфона.

Почему же?
Надо просто очень быстро пожелать пива, воблу и диван ;)