Megérkezett a Kimi K3 open weights verziója – új mércét állít az AI modellek között

A Moonshot AI július 27-én hivatalosan is közzétette a Kimi K3 modell *open weights* verzióját a Hugging Face platformon. Ez a modell 2,8 billió paramétert tartalmaz, és 896 expert modult integrál, amelyek közül 16 aktív tokenenként. A kontextusablak hossza 1 048 576 token, ami lehetővé teszi a rendkívül hosszú szövegek és összetett feladatok kezelését.

A Kimi K3 modell különlegessége, hogy MXFP4 kvantálásban is elérhető, ami közel 594 GB méretet jelent a modellek súlyai számára. A licenc, amelyet a Moonshot AI bevezetett, a "Kimi K3 License" névre hallgat, és külön feltételeket tartalmaz a kereskedelmi felhasználásra, amely az attribúció, a bevételi határ és a havi felhasználói szám alapján van meghatározva. A modellek használatához szükséges infrastruktúra nemcsak a szoftver, hanem a hardver oldaláról is jelentős kihívásokat jelent, hiszen a Kimi K3 futtatásához több nagy memóriás GPU-tömb szükséges.

Az Open Secure AI Alliance megalakulása

Ugyanezen a napon 37 nagyvállalat, köztük a Microsoft, IBM, Hugging Face és Red Hat, csatlakozott az új *Open Secure AI Alliance* kezdeményezéshez. Az új szövetség célja AI-biztonsági eszközök és nyílt forrású megoldások fejlesztése, különös figyelmet fordítva a rendszerek megfelelőségének, átláthatóságának és reagálóképességének javítására.

A Kimi K3 modell és az Open Secure AI Alliance bejelentései együttérvényes változást hozhatnak a mesterséges intelligencia terén, különös tekintettel a nyílt forrású modellek elérhetőségére és a biztonságos AI alkalmazások fejlesztésére.

Gyakorlati felhasználási lehetőségek

A Kimi K3 modell lehetőséget biztosít a fejlesztők számára, hogy kihasználják a multimodális képességeket, amelyek lehetővé teszik különböző bemeneti formátumok (szöveg, kép, videó) kezelését. A modell nyílt súlyainak köszönhetően könnyen testre szabható, ami különösen hasznos lehet kutatók és vállalatok számára, akik saját AI-megoldásaikat kívánják fejleszteni.

Elérhetőség és hardverigény

A Kimi K3 modell letölthető a Hugging Face oldaláról, azonban a használatához szükséges infrastuktúra kiemelkedően magas hardverigényt támaszt, így nem alkalmas az átlagos felhasználói környezetekbe.

Összegzés

A Kimi K3 open weights kiadása jelentős lépést jelent a nyílt forrású AI modellek világában, hiszen lehetőséget biztosít a fejlesztők számára, hogy a legmodernebb technológiákat alkalmazzák saját projektjeikben. Az Open Secure AI Alliance megalakulása pedig új irányt adhat az AI-biztonság fejlesztésének, amely a jövőben elengedhetetlen lesz a felelős AI-használat fenntartásához.