tass.ru — Сбербанк в результате ошибок искусственного интеллекта потерял миллиарды рублей. Об этом на "Уроке цифры" заявил глава банка Герман Греф. Полностью в первом.
МОСКВА, 26 февраля. /ТАСС/. Сбербанк в результате ошибок искусственного интеллекта потерял миллиарды рублей. Об этом на "Уроке цифры" заявил глава банка Герман Греф.
"Искусственный интеллект, как правило, принимает решение в больших системах. Маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям. В нашей практике мы теряли большие деньги на этом. Из-за того, что машина совершала маленькую ошибку на больших объемах, мы теряли миллиарды рублей", - сказал Греф.
По его словам, каждая ошибка потом выявлялась и помогала улучшить работу искусственного интеллекта. "Когда эта ошибка выявлялась, мы учились на ней, вставляли всевозможные фильтры за тем, чтобы калибровать, верифицировать систему искусственного интеллекта", - сказал он.
Ранее Греф заявлял, что больше всего внедрение искусственного интеллекта в Сбербанке влияет на численность сотрудников среднего звена. Он отмечал, что в результате внедрения искусственного интеллекта было сокращено около 70% менеджеров.
Фактически Истерхауз ввел в компьютер Министерства общественных работ, который он сам устанавливал, четыре новых инструкции.
Первая состояла в том, что каждый раз, когда министерство выписывало чек для покрытия счета какого-нибудь подрядчика, об этом ставился в известность его собственный компьютер. Месячная сумма таких счетов была очень большой. В районе Джидды министерство финансировало строительство дорог, школ, больниц, глубоководных портов, спортивных стадионов, мостов, эстакад, домов и целых жилых районов.
Согласно второй инструкции к каждому расчету следовало добавлять десять процентов, но направлять эти проценты на его личный номерной счет в отделении банка в Джидде. Третья и четвертая инструкции служили для прикрытия. Если министерство когда-либо захочет узнать полную сумму на счете в Инвестиционном банке Саудовской Аравии, то автоматически компьютер банка выдаст эту сумму, прибавив к ней десять процентов. И наконец, если в компьютер поступит прямой запрос, то он заявит, что ничего не знает и сотрет свою память. На данный момент сумма на счету Истерхауза составляла четыре миллиарда риалов.
Лэинг заметил странный факт – каждый раз, когда банк по указанию министерства предоставлял кому-нибудь кредит, сумма, составляющая ровно десять процентов этого кредита, переводилась со счета министерства на номерной счет того же банка.
Обман Истерхауза был лишь одним из вариантов операции с Четвертым Кассовым Аппаратом и мог быть раскрыт только при полной ревизии со стороны министерства, которая должна состояться следующей весной. (Обман основан на байке о том, как владелец бара в Америке, несмотря на то, что в баре было полно посетителей, был уверен, что поступления были на четверть меньше того, что ожидалось получить. Он нанял лучшего частного детектива, который снял комнату над баром, просверлил в полу отверстие и целую неделю лежал на животе и наблюдал. Наконец он доложил: «Очень сожалею, сэр, но ваши работники – честные люди. Каждый доллар и цент, попадающие в ваш бар, идут в один из ваших четырех кассовых аппаратов». «Что вы имеете в виду – „из четырех“? – спросил владелец бара, – у меня всего три аппарата».)
– Никто не желает зла этому молодому человеку, – сказал Истерхауз, – но если он будет продолжать действовать в этом направлении и откажется сидеть тихо, то не лучше ли отправить его обратно в Лондон?
– Это не так легко сделать. Вряд ли он безропотно пойдет на это, – сказал Пайл.
– Конечно, – согласился Истерхауз, – но он считает, что этот пакет уже в Лондоне, и если его вызывает Лондон, как вы ему это скажете, он поедет как ягненок. Единственное, что вы должны сказать Лондону, что вы просите послать его в другое место. Основания: он не подходит для работы здесь, он груб с местным персоналом и отрицательно влияет на сотрудников. Доказательство этому у вас в руках. Если он будет настаивать на своих беспочвенных обвинениях в Лондоне, этим он просто докажет вашу правоту.
> Хотелось бы понять: в пользу какого уважаемого человека были "потеряны" миллиарды рублей? > Ну и неплохо было бы узнать ФИО "искусственного интеллекта".
> Хотелось бы понять: в пользу какого уважаемого человека были "потеряны" миллиарды рублей? > Ну и неплохо было бы узнать ФИО "искусственного интеллекта".
потери банка могли быть, например, из-за большого количества выданных заведомо невозвратных кредитов. Систему кредит за 7минут как раз недавно стали внедрять. Фишка в том, что обычно потенциального заёмщика оценивает менеджер (речь, внешность, поведение и т.п.) и кроме анкетных данных ещё учитываются такие вот субъективные, а сейчас заявка подаётся и обрабатывается вообще без манагера. Поэтому 10 000 человек взявших с лёгкостью по 100 000р - это уже миллиард невозвратный. за 17й год людям выдали кредитов на 270 миллиардов и потом только росла выдача. Вот даже если 270 взять, то изменение в +-1% в выдаче невозвратных кредитов - это +-2.7 миллиарда.
> Хотелось бы понять: в пользу какого уважаемого человека были "потеряны" миллиарды рублей? > Ну и неплохо было бы узнать ФИО "искусственного интеллекта". >
"потеря" для грефа == (возможно) меньше обобранного населения (вкладчиков)
> > Вспомнил фильм Хакеры? ) Там тоже червь возникшую разницу при округлении переводов банка переводил на спец.счет. > > Вообще-то это реальный случай был.
Когда я работал в Агропромбанке, рассказывали, что в каком-то из филиалов программист подрихтовал "Опердень" так, что копейки округлялись и зачислялись на некий счет. Поскольку курс доллара тогда был что-то около 6000 рублей, никто на эти копейки внимания не обращал, а в итоге набежала некислая сумма.
Сейчас, сейчас
"Искусственный интеллект, как правило, принимает решение в больших системах. Маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям. В нашей практике мы теряли большие деньги на этом. Из-за того, что машина совершала маленькую ошибку на больших объемах, мы теряли миллиарды рублей", - сказал Греф.
По его словам, каждая ошибка потом выявлялась и помогала улучшить работу искусственного интеллекта. "Когда эта ошибка выявлялась, мы учились на ней, вставляли всевозможные фильтры за тем, чтобы калибровать, верифицировать систему искусственного интеллекта", - сказал он.
Ранее Греф заявлял, что больше всего внедрение искусственного интеллекта в Сбербанке влияет на численность сотрудников среднего звена. Он отмечал, что в результате внедрения искусственного интеллекта было сокращено около 70% менеджеров.