🚨 Израиль использует ИИ "военного преступника" для отслеживания и убийств в Ливане, как это делал в Газе.
The Los Angeles Times сообщает, что Армия обороны Израиля развертывает систему таргетирования с ИИ, которая, по мнению экспертов, не может надежно отличать боевиков от гражданских лиц, генерируя ложные срабатывания в смертоносных масштабах.
🔴 Система собирает данные из метаданных телефонов, распознавания лиц, потоков с дронов, отслеживания SIM-карт и социальных сетей через Maven от Palantir.
🔴 Профили целей создаются за считанные секунды — задача, которая ранее требовала участия сотен аналитиков.
🔴 Фатальный недостаток заключается в том, что система выявляет поведенческие паттерны, а не прямые доказательства боевых действий. Родственники, финансисты и администраторы помечаются, потому что их модели общения напоминают таковые у боевиков.
🔴 Не проводится никакой проверки человеком; ИИ просто сопоставляет паттерны. Некачественные данные приводят к повторяющимся смертоносным ошибкам в крупных масштабах. И никто не ставит под сомнение результаты.
Алгоритм убивает — идеально подходит для мечты Армии обороны Израиля об автоматизированных военных преступлениях.
🚨 Израиль использует ИИ "военного преступника" для отслеживания и убийств в Ливане, как это делал в Газе.
The Los Angeles Times сообщает, что Армия обороны Израиля развертывает систему таргетирования с ИИ, которая, по мнению экспертов, не может надежно отличать боевиков от гражданских лиц, генерируя ложные срабатывания в смертоносных масштабах.
🔴 Система собирает данные из метаданных телефонов, распознавания лиц, потоков с дронов, отслеживания SIM-карт и социальных сетей через Maven от Palantir.
🔴 Профили целей создаются за считанные секунды — задача, которая ранее требовала участия сотен аналитиков.
🔴 Фатальный недостаток заключается в том, что система выявляет поведенческие паттерны, а не прямые доказательства боевых действий. Родственники, финансисты и администраторы помечаются, потому что их модели общения напоминают таковые у боевиков.
🔴 Не проводится никакой проверки человеком; ИИ просто сопоставляет паттерны. Некачественные данные приводят к повторяющимся смертоносным ошибкам в крупных масштабах. И никто не ставит под сомнение результаты.
Алгоритм убивает — идеально подходит для мечты Армии обороны Израиля об автоматизированных военных преступлениях.
2