Искусственный интеллект развивается настолько быстро, что некоторые специалисты уже опасаются не отстать от него в конкурентной гонке, а просто не успеть понять, что именно человечество создало. По данным Yapolitic, один из таких экспертов решил не ждать эксперимента на собственном опыте и ушел из Google DeepMind.
Специалист по безопасности ИИ Билал Чугтай недавно покинул компанию, где занимался как раз тем, что должно было сделать искусственный интеллект безопаснее и лучше согласовать его поведение с человеческими целями. Казалось бы, место идеальное для человека, который хочет контролировать риски. Но работа, судя по всему, дала ему совсем другой повод для беспокойства.
Чугтай считает, что скорость развития ИИ уже опережает способность людей его анализировать. Технологии совершенствуются практически на глазах, тогда как человечеству требуется гораздо больше времени, чтобы разобраться в последствиях каждого нового шага.
И проблема, по его мнению, может оказаться не в том, что нейросеть однажды начнет делать какую-то конкретную опасную вещь. Риск гораздо масштабнее.
Специалист допускает появление сверхразумного агента, который будет превосходить человека практически по всем параметрам. И вот тут возникает неудобный вопрос: если система окажется умнее своих создателей, почему она вообще должна действовать именно так, как они задумали?
Гарантированного ответа на него у человечества пока нет
Сам Чугтай не считает, что безопасный ИИ невозможен. Напротив, он верит в возможность его создания. Но нынешние темпы разработки специалист считает чрезмерными и называет происходящее «маниакальной гонкой».
Получается своеобразная технологическая гонка, в которой человечество одновременно является и спортсменом, и конструктором трассы, и судьей. Компании стремятся создать все более мощные системы, а специалисты по безопасности пытаются понять, насколько далеко можно заходить, прежде чем эксперимент перестанет быть управляемым.
Чугтай предлагает буквально нажать на тормоз
Нам нужно снизить темпы развития ИИ до скорости, с которой общество сможет справиться, где возникающие риски можно будет устранить до того, как будет причинен непоправимый вред.
По его мнению, необходима и гораздо большая прозрачность в разработке подобных систем. Общество должно понимать, какие технологии создаются, какие риски они несут и почему решения о допустимом уровне опасности фактически принимаются частными компаниями.
В этом и заключается главный парадокс ситуации. Чем умнее становится искусственный интеллект, тем сложнее человеку оценивать последствия его развития. А остановить технологическую гонку добровольно участники рынка вряд ли захотят: тот, кто замедлится, рискует уступить конкурентам.
Поэтому предупреждение бывшего сотрудника Google DeepMind звучит довольно неприятно. Он не говорит, что катастрофа неизбежна. Он говорит о другом: мы можем слишком быстро приближаться к точке, последствия которой уже не получится исправить задним числом.
И если человек, который профессионально занимался безопасностью ИИ внутри одной из крупнейших технологических компаний мира, решил уйти именно из-за темпов этой гонки, к его словам как минимум стоит прислушаться.
С тегами: Крым и мир
Новости Крыма | КрымPRESS: последние новости и главные события










