Dane
Lokalna AI: kiedy dane nie powinny opuszczać firmy
Nie każda praca z AI musi odbywać się w chmurze. Gdy proces obejmuje dane medyczne, wyniki badań albo kalkulacje handlowe, warstwa AI, czyli nasz system pracujący na danych firmy, może działać na urządzeniu w firmie. Dane zostają na miejscu, dostęp do systemu nie zależy od zewnętrznego dostawcy, a koszty są przewidywalne.
Które dane zostają w firmie
W większości firm są dane, które powinny pozostać na miejscu: wyniki prac badawczo-rozwojowych, kalkulacje cenowe, dane klientów albo dokumentacja medyczna. Z tego powodu firma może zrezygnować z użycia AI w procesach, w których przyniosłaby ona największą wartość.
Lokalna AI pozwala zachować te dane w firmie. Warstwa AI działa na urządzeniu w siedzibie firmy i przetwarza dane wyłącznie w jej sieci. Urządzenie nie utrzymuje stałego połączenia z siecią zewnętrzną. Dotyczy to zarówno ruchu przychodzącego, jak i wychodzącego. Aktualizacje odbywają się wyłącznie podczas uzgodnionych prac serwisowych, które uruchamia firma i które są odnotowywane w rejestrze. Dane klientów nie służą do trenowania modeli. Dla każdego procesu zapisujemy w umowie, czy i jak długo urządzenie przechowuje treść zapytań i dokumentów. Urządzenie można skonfigurować tak, aby po wykonaniu zadania nie przechowywało ich trwale.
Jak pracuje urządzenie lokalne
Sposób pracy zespołu pozostaje taki sam. Warstwa AI czyta dokumenty i skrzynki, przygotowuje zestawienia oraz szkice odpowiedzi i wykonuje powtarzalne kroki. Obsługuje także obrazy i wideo. W tym wariancie cała praca odbywa się w sieci firmy.
Urządzenie ma wielkość małego komputera stacjonarnego i pobiera niewiele prądu. Jego dysk jest zaszyfrowany, a sprzęt stoi w serwerowni lub szafie firmy, pod jej fizyczną kontrolą. Jeżeli pełnimy rolę operatora, bierzemy na siebie prowadzenie urządzenia, aktualizacje modeli i kontrolę działania. Nie mamy stałego zdalnego dostępu do danych firmy. Każdorazowo uzgadniamy z firmą termin i zakres prac serwisowych, a ich przebieg trafia do rejestru. W tym wariancie firma nie musi budować własnego zespołu do prowadzenia infrastruktury AI.
Co zmienia się w dostępie i kosztach
W chmurze firma ma dwie niewiadome. Pierwsza dotyczy dostępu, bo nie ma wpływu na limity zapytań, zmiany wersji modeli ani awarie po stronie dostawcy. Druga dotyczy rachunku: cenniki modeli i interfejsów API, przez które systemy wymieniają dane, zmieniają się, a koszt rośnie wraz z liczbą dokumentów i zapytań.
Urządzenie lokalne pracuje niezależnie od limitów i awarii u dostawców. Koszty są przewidywalne, ponieważ nie zależą od zmian cenników modeli i API. Ma to znaczenie przy dużej liczbie podobnych zadań.
Jedna z opcji wdrożenia
Urządzenie lokalne udostępniamy na życzenie firmy. To jedna z opcji wdrożenia warstwy; możliwości urządzenia określamy z góry. Domyślnie warstwa pracuje w wydzielonym środowisku, czyli osobnym miejscu przetwarzania danych dla jednej firmy, na terenie UE. Jeżeli dane powinny pozostać w firmie albo koszty muszą być pod kontrolą, proces można przenieść na urządzenie na miejscu. Każdy proces oceniamy osobno razem z firmą.
Jakie ograniczenia ma lokalna AI
Ograniczenia przedstawiamy przed podjęciem decyzji. Najcięższe zadania trwają lokalnie dłużej niż w dużym środowisku chmurowym. W codziennej pracy dominują jednak prostsze albo wyspecjalizowane zadania, dla których lokalne tempo jest wystarczające. Pojedyncze urządzenie obsługuje uzgodniony zakres pracy, a obsługa większej liczby spraw wymaga kolejnego urządzenia. Podłączenie źródeł, nadanie uprawnień i przygotowanie zespołu wymagają pracy na początku, tak samo jak przy każdym wdrożeniu AI.
Pierwszy krok pozostaje taki sam: jeden proces, zmierzony punkt odniesienia i dostęp do danych tylko do odczytu. Zastanawiasz się, które dane w Twojej firmie mogą być przetwarzane w chmurze, a które powinny zostać na miejscu? Napisz do nas przez formularz kontaktowy albo na kontakt@uruchom.ai. W ciągu jednego dnia roboczego wyślemy wiadomość z trzema pytaniami o proces i propozycją 45-minutowej rozmowy. Szkic pierwszego etapu przygotujemy po tej rozmowie. Wskażemy w nim, gdzie lokalna AI ma sens.
Wróć do listy wpisów