мур
Иллюстрация Ричарда УилкинсонаРассуждая об искусственном сверхинтеллекте мы исходим из предпосылки, что интеллект в принципе бесконечен. Что мы можем экстраполировать условный IQ от пчелы к кошке, от кошки к человеку и далее по экспоненте к сверхразуму. Но мы знаем, что во Вселенной нет ничего бесконечного: температура, время, пространство, скорость, масса — все конечно.А что если мы подходим к пределу интеллектуальных способностей и никакое увеличение мощности компьютера не даст принципиально нового результата? Да, перебор вариантов будет работать быстрее, да мы быстро заполним пробелы в нашем знании, но дальше мы упремся в физический предел. Например, представьте себе простейшую игру в крестики-нолики. На поле три на три. Вы один раз с помощью интеллекта разобрались, как нужно играть правильно — и все. Никакое наращивание вычислительной мощности, никакой суперинтеллект не сможет обыграть вас ни при каких условиях. Ничья вам всегда гарантирована. Или возьмем шахматы. Рейтинг лучших белковых шахматистов — чуть выше 2860. Рейтинг лучших кремниевых шахматистов — уже за 3680. Но значит ли это, что этот рейтинг будет расти бесконечно? Скорее всего — нет. Программа упрется в естественный предел.А что если и с интеллектом так же?
Иллюстрация Ричарда Уилкинсона
Рассуждая об искусственном сверхинтеллекте мы исходим из предпосылки, что интеллект в принципе бесконечен. Что мы можем экстраполировать условный IQ от пчелы к кошке, от кошки к человеку и далее по экспоненте к сверхразуму. Но мы знаем, что во Вселенной нет ничего бесконечного: температура, время, пространство, скорость, масса — все конечно.
А что если мы подходим к пределу интеллектуальных способностей и никакое увеличение мощности компьютера не даст принципиально нового результата? Да, перебор вариантов будет работать быстрее, да мы быстро заполним пробелы в нашем знании, но дальше мы упремся в физический предел.
Например, представьте себе простейшую игру в крестики-нолики. На поле три на три. Вы один раз с помощью интеллекта разобрались, как нужно играть правильно — и все. Никакое наращивание вычислительной мощности, никакой суперинтеллект не сможет обыграть вас ни при каких условиях. Ничья вам всегда гарантирована. Или возьмем шахматы. Рейтинг лучших белковых шахматистов — чуть выше 2860. Рейтинг лучших кремниевых шахматистов — уже за 3680. Но значит ли это, что этот рейтинг будет расти бесконечно? Скорее всего — нет. Программа упрется в естественный предел.
А что если и с интеллектом так же?
