На самом деле борьба с роботом это в конечном итоге борьба с его программистом, даже если ты сам же и программист (что кстати упрощает борьбу).

К примеру классические шахматные роботы базируются на старых достаточно алгоритмах оценки шахматной позиции (сам алгоритм кстати придуман задолго вообще до возникновения компьютеров). Они просчитывают где-то 15-20 ходов вперед и выбирают тот вариант, который дает им на финальном ходу позицию с лучшей оценкой. Поэтому к примеру работают пешки-шипы, потому что базовый алгоритм оценки не умеет адекватно определять их сравнительную значимость.
Аналогично, классические шахматные алгоритмы не видят чем слон, не имеющий counterpart (к примеру - белый слон у тебя в том случае, если белого слона нет у твоего противника) работает в связке с пешечной структурой, использующей слабости белых полей. Опять же алгоритмы не умеют оценивать пешечные структуры, и поэтому работают связанные с ними стратегии.

Почему они не умеют просчитывать пешечные структуры? Потому что программисты не придумали способа как давать им адекватную оценку. Это создает у робота "слепые зоны", которые можно экплуатировать, особенно если ты знаешь где у него такая слепая зона находится. Я что-то похожее описывал в "Попаданце" где главный герой находится в слепой зоне у робота, и поэтому робот неверно на него реагирует. Точнее там наоборот - робот реагирует на героя верно, но он неверно реагирует на все остальное человечество, которое из-за ошибки оказалось у него в слепой зоне.

Насколько бы не был хорош компьютер, работающий на просчете ходов - но он слаб в том, в чем слаб его программист.

Если мы предполагаем более комплексную среду чем шахматы, к примеру ЖИЗНЬ, то опять же у робота меньше возможностей просчитывать все. Точнее у него вообще нет возможности просчитывать все. Это теоретически невозможно. Хочешь или не хочешь, но робот вынужден делать какие-то процессы более приоритетными, а какие-то менее.

И значит если ты создаешь ситуацию, в которой ключевой для победы процесс находится среди тех, которые воспринимаются роботом как менее приоритетные - ты спрячешь этот процесс в его "слепой зоне". Он просто не дойдет до просчитывания этого процесса, потому что считает его несущественным.
А менее приоритетными робот считает те процессы, которые ему выставил как менее приоритетные - программист.

То есть ты должен понять психологию программиста, чтобы выйти таким образом на слабые места робота. Ты воюешь с программистом то есть.
В принципе похоже работают вирусы, где хакер использует "дыры" в системе, то есть действия, которые не предполагал программист, и запускает через "слепую зону" системы (ака "дыру") атакующую программу. Интересные варианты этого мы видим в спидранах, где фактически игроки используют "дыры" для обмана системы изнутри и получения более существенных результатах. (Правда надо понимать, что в отличие от тех же серверных программистов, разработчики игр редко борются со спидраннерами, и оставляют эксплойты, даже если знают о них. Для разработчика важнее сделать игру более стабильной и потратить силы на то, что увеличит продажи и рейтинги, чем делать игру менее уязвимой для взлома.)

-
Это все для обычных алгоритмических машин.
Для нейронных сетей, особенно самообучающихся, работают другие тактики, в целом не отличающиеся о тактик, работающих против людей, потому что человек это тоже нейронная сеть. Ну то есть банальный обман и прочее, особенно в ситуациях связанных с доверием. Обмануть доверие или вообще в принципе обмануть можно даже более умного человека.