Google

Google

Один из значимых людей в области искусственного интеллекта совершил неожиданный карьерный шаг. Джеффри Хинтон, прозванный "крёстным отцом ИИ", рассказал The New York Times, что он ушел с должности вице-президента и инженера-исследователя Google в апреле, чтобы открыто предостерегать об опасностях, связанных с этой технологией. Ученый обеспокоен тем, что Google отказывается от прежней сдержанности в отношении публичных релизов ИИ с целью конкурировать с ChatGPT, Bing Chat и аналогичными моделями, открывая двери для множества этических проблем.

В ближайшем будущем Хинтон опасается, что генеративный ИИ может привести к волне дезинформации. Ему также не дает покоя потенциал ИИ как в устранении "скучной работы", так и полной замене многих рабочих мест. Ученый обеспокоен появлением полностью автономного оружия и тенденцией моделей ИИ к изучению странных поведенческих моделей из обучающих данных. Хотя некоторые из этих проблем пока теоретические, Хинтон опасается обострения без регуляций или эффективных контрольных мер.

Хинтон говорит, что его позиция начала меняться в прошлом году, когда Google, OpenAI и другие начали создавать системы ИИ, которые, по его мнению, иногда превосходят человеческий интеллект. ИИ развился настолько стремительно всего за последние пять лет, что ученому страшно предположить, как все сложится в следующие пять.

Главный исследователь Google Джефф Дин сообщил, что компания по-прежнему стремится к "ответственному подходу" и находится в готовности к "возникающим рискам". Недавно поисковый гигант выпустил черновую версию своего чат-бота Bard, после месяцев слухов о том, что компания беспокоится о конкурентной угрозе генеративного ChatGPT. До этого Google отказывалась публично выпускать ИИ-модели, такие как свой ориентированный на искусство Imagen, из-за потенциала для токсичного контента и нарушений авторских прав.

Хинтон посвятил свою карьеру изучению нейронных сетей, которые часто играют ключевую роль в ИИ, но наиболее известен разработкой системы распознавания объектов. Google купил стартап DNNresearch Хинтона в 2013 году, и основная концепция его изобретения способствовала всплеску разработок, которые привели к современной генеративной технологии.

Хинтон не один в своих опасениях. Ряд влиятельных ученых и деятелей технологической индустрии, включая Илона Маска и Стива Возняка, недавно подписали открытое письмо с призывом к шестимесячной паузе в разработке ИИ для решения этических и проблем безопасности.

Источник: shazoo.ru

Next Post

Blizzard напомнила о предстоящем тестировании Diablo IV в новом трейлере

С 12 по 14 мая на PlayStation 5, Xbox Series X|S, PlayStation 4, Xbox One и PC пройдёт очередной этап бета-тестирования Diablo IV. Издатель в лице Blizzard Entertainment решил напомнить об этом и представил геймплейный трейлер проекта. Полноценный релиз состоится 6 июня на указанных платформах. В ходе прохождения предварительной версии […]