8°C Монреаль
Йошуа Бенджио, канадский профессор, который считается одним из крестных отцов искусственного интеллекта, считает, что развитие этой технологии должно быть приостановлено, пока ИИ еще возможно контролировать.
Yoshua Bengio, 2019. John Mahoney / Montreal Gazette
«Я обеспокоен тем, что мощные инструменты (ИИ) могут иметь и негативное применение, и что общество не готово к этому», – сказал Бенджио на пресс-конференции 29 марта.
banner
Бенджио обратился к журналистам после того, как он и более 1100 руководителей, мыслителей и исследователей опубликовали открытое письмо, в котором утверждается, что общество должно затормозить развитие больших систем искусственного интеллекта. Среди других подписавших письмо были основатель и руководитель Tesla Inc. Илон Маск, сооснователь Apple Inc. Стив Возняк и автор международного бестселлера «Sapiens: Краткая история человечества» Юваль Ной Харари.
Мы призываем все лаборатории AI немедленно приостановить как минимум на 6 месяцев обучение систем искусственного интеллекта, более мощных, чем GPT-4.
Среди рисков, которые перечисляют авторы: экономические и политические сбои и резкие изменения, такие, как автоматизация миллионов рабочих мест или тотальная дезинформация. «Стоит ли нам рисковать потерей контроля над нашей цивилизацией?» – говорится в письме.
Это письмо демонстрирует серьезную тревогу, связанную с выпуском ChatGPT компании OpenAI LLC, чат-бота, который синтезирует материалы в Интернете настолько хорошо, что часто невозможно определить, что его творения написаны машиной.
Инвестиционный банк Goldman Sachs Group Inc. опубликовал 27 марта доклад, в котором говорится, что такие «генеративные» системы искусственного интеллекта могут вызвать бум производительности, который будет способствовать росту мировой экономики, но в то же время приведет к «значительным потрясениям» на рынке труда, в результате которых 300 млн человек потеряют работу.
Беспокойство вызывает не только потенциал технологии, но и скорость ее развития. OpenAI представила ChatGPT в ноябре и уже выпустила еще более мощное обновление, ChatGPT-4.
Бенджио, Маск и другие специалисты заявили, что опасаются гонки вооружений, поскольку Alphabet Inc. и другие крупные технологические компании пытаются не отстать от OpenAI, компании из Сан-Франциско, поддерживаемой Microsoft Corp.
«В последние месяцы лаборатории ИИ втянулись в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто, включая их создателей, не может понять, предсказать или надежно контролировать».
Оперативные новости и эксклюзивный контент в нашем Telegram.
Подписывайтесь!
Пора бить тревогу?
В 2018 году Бенджио вместе с Джеффри Хинтоном из Университета Торонто и компьютерным инженером Янном Лекуном из Франции получили премию Тьюринга, пожалуй, самую престижную награду в области вычислительной техники, за новаторскую работу в области нейронных сетей и машинного обучения. Бенджио участвовал в создании Монреальского исследовательского института ИИ ( Montreal-based AI research institute – Mila), и был одним из инициаторов принятия Монреальской декларации по ответственному развитию искусственного интеллекта в 2017 году.
Письмо и пресс-конференция стали вторым случаем за месяц, когда Бенджио забил тревогу по поводу того, во что превратился ИИ.
Inline URL to https://nashmontreal.com/news/muzhchina-pokonchil-s-zhiznyu-posle-togo-kak-chatbot-prizval-ego-pozhertvovat-soboy-chtoby-ostanovit-izmenenie-klimata_3503.html
20 марта Mila в сотрудничестве с Организацией Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО) опубликовала книгу «Недостающие звенья в управлении ИИ». В сборник вошли 18 статей, написанных крупнейшими экспертами по теме. Среди них сам Бенджио, Эндрю Ын, соучредитель и бывший руководитель Google Brain – исследовательской группы компании по искусственному интеллекту; Эрик Бринйолфссон, директор лаборатории цифровой экономики в Стэнфордском институте человекоцентричного ИИ; и Джой Буоламвини, основатель Algorithmic Justice League, организации, которая работает над борьбой с предвзятостью в программном обеспечении.
К созданию нормативной базы для ИИ призвала даже Торговая палата США, крупнейшее лоббистское агентство страны.
Хотя до достижения искусственным интеллектом уровня человеческого еще далеко, Бенджио считает, что он уже достаточно мощный, чтобы ввести в заблуждение собеседника.
banner
В чем опасность?
Одна из главных опасностей ИИ связана с исходным набором данных.
Технология могла бы использоваться для «решения проблем с изменением климата и сохранения биоразнообразия, для защиты прав человека, для применения в здравоохранении», но этого не происходит. Вместо этого ИИ угрожает усугубить предрассудки и расизм, которые уже присутствуют в обществе, основывая свои результаты на неполном наборе данных.
ИИ уже используется горсткой крупных корпораций для получения прибыли, а не для более широкого социального блага.
Главная рекомендация заключается в том, что правительствам следует вмешаться и стимулировать «социально полезное применение» ИИ, например, использовать его для поиска новых лекарств от болезней, что позволит снизить затраты на исследования и разработки.
banner
Канада стала первой страной, выпустившей национальную стратегию в области ИИ стоимостью $125 млн еще в 2017 году. Канадский закон об искусственном интеллекте и данных, если будет принят в ближайшие месяцы, станет первым в своем роде в мире.
Inline URL to https://nashmontreal.com/news/russian_english/vef-kakuyu-rol-kanada-sygraet-v-chetvertoy-promyshlennoy-revolyucii_3394.html
Закон устанавливает меры по регулированию торговли системами ИИ и устанавливает общие требования к проектированию, разработке и использованию ИИ с целью снижения вреда и необъективности результатов.
