Meta Muse Spark: M5 Ultra Mac Studios-дағы жергілікті AI

Meta жақында Muse Spark, өзінің соңғы AI моделін шығарды және оны «АҚШ-тың осы уақытқа дейінгі ең қабілетті ашық салмақты моделі» деп атады. Ең бастысы не? Ол тікелей жұмыс үстеліңізде жұмыс істеуге арналған. Бұлт жоқ, шексіз жазылым төлемдері жоқ. Жарнаманы автоматтандырумен терең айналысатындар үшін бұл үлкен өзгеріс.

Мәселе мынада: сізге екі Apple M5 Ultra Mac Studios қажет болады. Және соңғы MLX фреймворкі. Бұл қалта ақшасы емес, солай ма? Біз тек аппараттық құрал үшін айтарлықтай қаражат туралы айтып отырмыз. Содан кейін орнату, MLX фреймворкін іске қосу. Бұл әрқашан тегіс жүрмейді, тәуелділіктермен және конфигурация файлдарымен күресу үшін бірнеше кешті күтіңіз. Екі M5 Ultra толық қуатта жұмыс істегендегі қуат тұтыну туралы айтпай-ақ қояйын; электр энергиясы үшін төлем шотыңыз мұны сезінеді.

Бірақ егер сіз бұл бастапқы шығынды көтере алсаңыз, тартымдылығы айқын: жергілікті AI өңдеу. Бұл бұлттық жауаптарды күтудің қажеті жоқ дегенді білдіреді. Нөлдік кідіріс. Автоматтандыруларыңыз лезде жұмыс істейді. Бұл өсіп келе жатқан бұлттық төлемдерді азайтады және тұрақты есептегішті бақылауды тоқтатады. Оны деректер орталығын жұмыс үстеліңізге әкелу сияқты елестетіңіз, бірақ нақты деректер орталығынсыз. Бұл бастапқы инвестициядан өткеннен кейін жылдамдық пен шығындарды бақылау үшін ойынды өзгертетін фактор.

Бұл аспандағы бәліш концепциясы емес; бұл төмен кідірісті жарнама операцияларына байыпты қарайтындар үшін прагматикалық қадам. Бірақ шынайы болыңыз: кіру кедергісі жоғары, және бұл тек Apple-ге арналған кеш. Егер сіз бұл экожүйеде болмасаңыз, немесе аралас ортада жұмыс істесеңіз, бұл шешім сізге арналмаған болуы мүмкін. Бұл тар нарықтық ойын, бірақ оны іске асыра алатындар үшін қуатты.