Przewężenia API dla AI dla lepszego zrozumienia AI
Pofragmentowanie i zaizolowanie AI, zmuszenie jej do komunikacji przez bardzo wąskie otypowane i zrozumiałe przez człowieka API.
Nawet jeśli te przewężenia byłby ustalane przez AI, to byłyby w pełni wyjaśniane i opisane i stałe dla określonych zadań.
w ten sposób, uzyskamy bezpieczniejsze AI, które wiemy co robi, nie jest całkowitą czarną skrzynką, nie może robić co chce, jest ograniczone i określone.
Przykład z AI chwytającym, rozbitym na AI badające parametry chwytanego przedmiotu, oraz AI określające jak chwycić. Te dwa AI komunikują się wąskim otypowanym i zrozumiałym API, dzięki czemu jedno AI nie robi wszystkiego, oraz jest bardziej zrozumiałe co taki system wielu odrębnych AI robi.
Nadal nie znamy i nie rozumiemy algorytmów, ale wiemy co takie AI robi, jeśli poda błędne dane, które spowodują np. zgniecenie przedmiotu, to wiemy który parametr API był błędnie określony. Możemy rozbijać AI na drobniejsze kroki, aż człowiekowi to wystarczy do poczucia bezpieczeństwa.
Dodaj komentarz