Külső szolgáltatások, API-k

A Guru használ néhány külső szolgáltatást, olyan funkcionalitást, melyet nem mi fejlesztünk, ugyanakkor igénybe veszünk. Ezen szócikk ezek használati módját írja le, illetve az elérésükhöz szükséges teendőket részletezi — ezek lokális futtatásnál érdekesek.

OpenAI

Legnagyobb függőségünk az OpenAI, hiszen a Guru egy üzenet feldolgozása során csaknem minden lépésben egy-egy LLM hívást hajt végre, mellyel döntést hoz vagy szöveget ír. Mint ilyen, a rendszer nem képes érdemileg futni, amennyiben nem tud csatlakozni az OpenAI szolgáltatásaihoz.

A szolgáltatáshoz való hozzáférés API kulcs segítségével történik (ennek megadási helyét a megfelelő összeállítási útmutatók részletezik). Kulcsot az OpenAI platform oldalán tudunk generálni (ha nincs fiókunk, regisztrációs útmutatót lejjebb találunk).

Fontos, hogy a Granit VA projekt alá generáljuk az API kulcsot, a különböző projektek különböző költségvetéssel rendelkeznek, és csak így lehet megfelelően követni az API használat mennyiségét.

Az API kulcsokat nem lehet utólag megtekinteni

Fontos, hogy a generált API kulcsot mentsük el, mivel utólag nem tudjuk megtekinteni, cenzúrázva jelenik csak meg az oldalon. Ugyanakkor természetesen tudunk újat generálni, amennyiben véletlen nem mentjük le.

Amennyiben még nem rendelkezünk céges fiókkal, regisztrálnunk kell. Ehhez először egyeztessünk a PA-val, hogy van-e regisztrációs link. Amennyiben van, használjuk azt, amennyiben nincs menjünk az OpenAI regisztrációs oldalára, és regisztráljunk a céges email címünk segítségével. Végül erősítsük meg a megadott elérhetőségeinket a véglegesítéshez.

Azure Document Intelligence

Az Azure Document Intelligence szolgáltatást dokumentumfeldolgozás esetén alkalmazzuk, melynek ez egyik fő komponense. Így tehát bár a rendszer képes futni hozzáférés nélkül, dokumentumot nem tudunk betáplálni nélküle.

A hozzáférés API kulcs alapú, mely megszerzéséhez forduljunk a PA-hoz.

Graylog

A rendszer átláthatósága érdekében a production rendszer vezeti a Gránit Banknak a log-okat a Graylog rendszerében is. Ez kizárólag az éles rendszernél érdekes, egyéb esetben nem kell vele foglalkoznunk.