tass.ru — Сбербанк в результате ошибок искусственного интеллекта потерял миллиарды рублей. Об этом на "Уроке цифры" заявил глава банка Герман Греф. Полностью в первом.
МОСКВА, 26 февраля. /ТАСС/. Сбербанк в результате ошибок искусственного интеллекта потерял миллиарды рублей. Об этом на "Уроке цифры" заявил глава банка Герман Греф.
"Искусственный интеллект, как правило, принимает решение в больших системах. Маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям. В нашей практике мы теряли большие деньги на этом. Из-за того, что машина совершала маленькую ошибку на больших объемах, мы теряли миллиарды рублей", - сказал Греф.
По его словам, каждая ошибка потом выявлялась и помогала улучшить работу искусственного интеллекта. "Когда эта ошибка выявлялась, мы учились на ней, вставляли всевозможные фильтры за тем, чтобы калибровать, верифицировать систему искусственного интеллекта", - сказал он.
Ранее Греф заявлял, что больше всего внедрение искусственного интеллекта в Сбербанке влияет на численность сотрудников среднего звена. Он отмечал, что в результате внедрения искусственного интеллекта было сокращено около 70% менеджеров.
Фактически Истерхауз ввел в компьютер Министерства общественных работ, который он сам устанавливал, четыре новых инструкции.
Первая состояла в том, что каждый раз, когда министерство выписывало чек для покрытия счета какого-нибудь подрядчика, об этом ставился в известность его собственный компьютер. Месячная сумма таких счетов была очень большой. В районе Джидды министерство финансировало строительство дорог, школ, больниц, глубоководных портов, спортивных стадионов, мостов, эстакад, домов и целых жилых районов.
Согласно второй инструкции к каждому расчету следовало добавлять десять процентов, но направлять эти проценты на его личный номерной счет в отделении банка в Джидде. Третья и четвертая инструкции служили для прикрытия. Если министерство когда-либо захочет узнать полную сумму на счете в Инвестиционном банке Саудовской Аравии, то автоматически компьютер банка выдаст эту сумму, прибавив к ней десять процентов. И наконец, если в компьютер поступит прямой запрос, то он заявит, что ничего не знает и сотрет свою память. На данный момент сумма на счету Истерхауза составляла четыре миллиарда риалов.
Лэинг заметил странный факт – каждый раз, когда банк по указанию министерства предоставлял кому-нибудь кредит, сумма, составляющая ровно десять процентов этого кредита, переводилась со счета министерства на номерной счет того же банка.
Обман Истерхауза был лишь одним из вариантов операции с Четвертым Кассовым Аппаратом и мог быть раскрыт только при полной ревизии со стороны министерства, которая должна состояться следующей весной. (Обман основан на байке о том, как владелец бара в Америке, несмотря на то, что в баре было полно посетителей, был уверен, что поступления были на четверть меньше того, что ожидалось получить. Он нанял лучшего частного детектива, который снял комнату над баром, просверлил в полу отверстие и целую неделю лежал на животе и наблюдал. Наконец он доложил: «Очень сожалею, сэр, но ваши работники – честные люди. Каждый доллар и цент, попадающие в ваш бар, идут в один из ваших четырех кассовых аппаратов». «Что вы имеете в виду – „из четырех“? – спросил владелец бара, – у меня всего три аппарата».)
– Никто не желает зла этому молодому человеку, – сказал Истерхауз, – но если он будет продолжать действовать в этом направлении и откажется сидеть тихо, то не лучше ли отправить его обратно в Лондон?
– Это не так легко сделать. Вряд ли он безропотно пойдет на это, – сказал Пайл.
– Конечно, – согласился Истерхауз, – но он считает, что этот пакет уже в Лондоне, и если его вызывает Лондон, как вы ему это скажете, он поедет как ягненок. Единственное, что вы должны сказать Лондону, что вы просите послать его в другое место. Основания: он не подходит для работы здесь, он груб с местным персоналом и отрицательно влияет на сотрудников. Доказательство этому у вас в руках. Если он будет настаивать на своих беспочвенных обвинениях в Лондоне, этим он просто докажет вашу правоту.
Сейчас, сейчас
"Искусственный интеллект, как правило, принимает решение в больших системах. Маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям. В нашей практике мы теряли большие деньги на этом. Из-за того, что машина совершала маленькую ошибку на больших объемах, мы теряли миллиарды рублей", - сказал Греф.
По его словам, каждая ошибка потом выявлялась и помогала улучшить работу искусственного интеллекта. "Когда эта ошибка выявлялась, мы учились на ней, вставляли всевозможные фильтры за тем, чтобы калибровать, верифицировать систему искусственного интеллекта", - сказал он.
Ранее Греф заявлял, что больше всего внедрение искусственного интеллекта в Сбербанке влияет на численность сотрудников среднего звена. Он отмечал, что в результате внедрения искусственного интеллекта было сокращено около 70% менеджеров.