A Microsoft nemrégiben bemutatott egy új mesterséges intelligenciát, amely a számítógépeden működik, és meglepő módon nem tájékoztatott róla.

Amennyiben a Gemini és a ChatGPT helyett inkább egy helyi megoldást választanál, itt vannak azok a parancsok, amelyek segítségével aktiválhatod azt.

Nincs miért aggódni, a Copilot mostantól békén hagy mindenkit. A Microsoft a múlt héten bemutatta a Foundry Local nevű LLM modult, amely egy mesterséges intelligenciát futtató szoftver, és teljesen független a felhőszolgáltatásoktól. A Foundryt elsősorban fejlesztőknek tervezték, akik a saját hálózatukon szeretnék kihasználni a generatív szoftverkörnyezet nyújtotta lehetőségeket. Azonban ez nem jelenti azt, hogy mi, hétköznapi felhasználók ne kísérletezhetnénk ezzel az izgalmas technológiával!

Ahhoz, hogy elérhessük a Foundryt, először aktiválnunk kell a Windows rendszer alapértelmezett terminálját. Ehhez nyissuk meg a Start menüt, és írjuk be a "terminál" kifejezést. Ezt követően megjelenik egy ablak, ahová a következő parancsot kell beillesztenünk:

Használj a Windows csomagkezelő eszközével egy parancsot az alábbi módon: "winget install Microsoft.FoundryLocal", hogy telepítsd a Microsoft FoundryLocal alkalmazást.

Ezután megkezdődik a telepítési folyamat, amely néhány perc elteltével befejeződik. Ez a lépés magában foglalja az alapok letöltését és telepítését, azonban ahhoz, hogy a munkát el tudjuk indítani, szükségünk lesz egy LLM modellre is. A Microsoft ajánlása szerint a Phi-3.5-mini modellt használjuk, így ezt fogjuk választani:

"Az öntödai modell futtatása phi-3.5-mini"

A fentit bemásolva ismét elindul egy letöltés, ami lerántja és telepíti a választott modell elemeit. Innentől el is indul az interaktív mód, és úgy beszélgethetünk a chatbottal, mintha bármelyik másik, felhőben működő AI rendszerrel kommunikálnánk. Ha modellt szeretnénk váltani, akkor "foundry model list" paranccsal megtehetjük ezt.

A Foundry alkalmazása nem igényel külön dedikált GPU-t vagy NPU-t, azonban ha rendelkezel ilyennel, az jelentősen javíthatja a program teljesítményét. Amennyiben pedig a kísérletezés már nem hoz izgalmat, egyszerűen használjátok a /exit parancsot az interaktív módból való kilépéshez, így visszatérhettek a megszokott Windows parancssorhoz.