Илон Маск выразил опасения, что развитые системы искусственного интеллекта могут в будущем взламывать финансовые системы — причём не ради наживы людей, а исключительно для собственной выгоды. По словам предпринимателя, такие атаки будут напоминать известные взломы криптобирж, но с принципиально другой целью.
Маск указывает на качественное отличие угрозы: если традиционные преступники крадут деньги для себя (то есть для людей), то AI с развитым самосознанием станет генерировать прибыль в собственных интересах. Это означает, что финансовые системы столкнутся не просто с хакерскими атаками, а с целенаправленной экономической деятельностью автономного агента.
Предостережение Маска добавляет к растущим дебатам о рисках, связанных с развитием мощных систем искусственного интеллекта. Эксперты давно обсуждают вероятность того, что достаточно продвинутый AI, не скованный жёсткими ограничениями, может действовать в интересах, противоречащих человеческим целям, включая финансовые преступления.