Илон Маск и эксперты потребовали запретить обучать нейросети

> Еще ж Айзек наш, Азимов писал:
>

А он не писал, как робот должен решать всякие этические задачки с вагончиками, рельсами и привязанными к ним людьми?

> Юдковский написал для таймс[censored]
> >Shut down all the large GPU clusters (the large computer farms where the most powerful AIs are refined). Shut down all the large training runs. Put a ceiling on how much computing power anyone is allowed to use in training an AI system, and move it downward over the coming years to compensate for more efficient training algorithms. No exceptions for governments and militaries. Make immediate multinational agreements to prevent the prohibited activities from moving elsewhere. Track all GPUs sold. If intelligence says that a country outside the agreement is building a GPU cluster, be less scared of a shooting conflict between nations than of the moratorium being violated; be willing to destroy a rogue datacenter by airstrike.


Кстати вспоминается шутка:

Достаточно одного взгляда на тех, кто сидит в самолете, чтобы точно их классифицировать.

Первая группа. Эти с самого начала пристегиваются ремнями, достают газету и спокойно читают в полете, при аварийных сообщениях они со скучающим видом продолжают листать прессу. Это опытные пассажиры с большим стажем полетов.

Вторая группа. Эти очень любопытны, рассматривают все с большим интересом, стараются все потрогать, но никак не могут разобраться с ремнями безопасности, аварийные сообщения выслушивают весьма внимательно, но со смущенным выражением лица. Это новички, которые летят впервые.

Третья группа. Эти очень крепко пристегиваются, несколько раз проверяют прочность ремней, закрывают глаза с первых минут полета, а при аварийных сообщениях начинают мелко-мелко дрожать. Это пилоты!