Уязвимости генеративных нейросетей

Книга «Уязвимости генеративных сетей» представляет собой комплексное исследование слабых мест современных генеративных нейросетей. Авторы анализируют, как малейшие изменения входных данных, ошибки в настройках, недостаточная защита API и небрежное управление привилегиями могут влиять на результаты работы модели, порождая адапверсариальные атаки, утечки данных и скрытые бекдоры. В работе подробно рассматриваются механизмы инверсии модели, атаки на целостность обучающих данных, а также примеры абстрактных инцидентов, демонстрирующие хрупкость даже хорошо настроенных систем. Особое внимание уделено методам повышения устойчивости: состязательному машинному обучению, регуляриз…