Бунт машин? Компания-разработчик ИИ Anthropic призывает техгигантов «нажать на тормоз» в развитии технологий, пока системы не вышли из-под контроля человека
Джек Кларк был одним из семи бывших сотрудников OpenAI, которые в 2021 году учредили свою компанию Anthropic.
По словам руководства Anthropic, реальная пауза возможна лишь в том случае, если сразу несколько ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — одновременно согласятся остановить дальнейшее наращивание
HELPSOC_мнение: А как контролировать, как ядерное оружие?
Не смешите мою бабушку.
[ more…] http://helpsoc.ru/
Руководство компании-разработчика технологий ИИ Anthropic предупреждает, что новейшие ИИ-модели начинают демонстрировать признаки потенциального выхода из-под человеческого контроля.
Сооснователь Anthropic Джек Кларк заявил, что технология приближается к этапу, когда сможет развиваться без участия человека, и призвал создать механизмы, которые позволят при необходимости замедлять развитие искусственного интеллекта.
«Необходимо иметь возможность убрать ногу с педали газа и нажать на тормоз», — заявил Кларк в интервью программе BBC Newsnight.
«Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза», — считает он.
Румыния. Взрыв дрона Украины 2026
По его словам, люди должны сохранить контроль над системами ИИ через государственное регулирование и политические механизмы, поскольку эти технологии будут становиться все более мощными и все сильнее влиять на общество.
«Миру необходимо серьезно задуматься над этим вопросом. В конечном итоге нам придется разработать новые правила регулирования, которые позволят быть уверенными в безопасности и надежности этих систем», — подчеркнул Кларк.
Недавно Anthropic — разработчик семейства моделей Claude — выпустила доклад, в котором назвала замедление разработки передовых систем ИИ во всем мире «полезным шагом».
Однако, подчеркивается в докладе, если исследования остановит только одна компания, ее конкуренты просто уйдут вперед.
По словам руководства Anthropic, реальная пауза возможна лишь в том случае, если сразу несколько ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — одновременно согласятся остановить дальнейшее наращивание возможностей своих моделей в рамках системы, соблюдение которой можно будет независимо проверять.
HELPSOC_мнение: А как контролировать, как ядерное оружие?
Не смешите мою бабушку.
тэги: HELPSOC_мнение: новейшие ИИ-модели начинают демонстрировать признаки потенциального выхода из-под человеческого контроля, А как контролировать, как ядерное оружие?
Не смешите мою бабушку, По словам руководства Anthropic, реальная пауза возможна лишь в том случае, если сразу несколько ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — одновременно согласятся остановить дальнейшее наращивание возможностей своих моделей,
tags: HELPSOC_мнение: новейшие ИИ-модели начинают демонстрировать признаки потенциального выхода из-под человеческого контроля, А как контролировать, как ядерное оружие?
Не смешите мою бабушку, По словам руководства Anthropic, реальная пауза возможна лишь в том случае, если сразу несколько ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — одновременно согласятся остановить дальнейшее наращивание возможностей своих моделей
