Guardrails (zabezpieczenia)
Aktualizacja: · zob. też: zabezpieczenia, barierki, mechanizmy kontroli
Guardrails to „barierki”, które trzymają AI w ryzach. Bez nich agent działający autonomicznie mógłby wykonać niepożądaną akcję albo podać szkodliwą treść.
Przykłady: filtrowanie treści, walidacja danych wejściowych i wyjściowych, ograniczenie uprawnień narzędzi, wymóg zatwierdzenia przez człowieka, logowanie działań.
To kluczowy element bezpiecznego wdrożenia — szczególnie tam, gdzie błąd dużo kosztuje.