Anthropic-тің IPO-ға шығу стратегиясы: Уолл-стрит талаптары мен этикалық ЖИ арасындағы тепе-теңдік

Anthropic классикалық Силикон алқабының дилеммасына тап болды. Олар IPO-дан түсетін қомақты ақшаны көздеп отыр, солай емес пе? Қоғамдық нарықтың байлығы. Бірақ мәселе мынада: олар өздерінің негізгі миссиясынан — ЖИ-ді қауіпсіз, адамзат игілігі үшін құрудан — бас тартпайтынына ант береді.

Қағаз жүзінде бұл керемет естіледі. Шындық? Мүлдем басқа нәрсе. Қуаттырақ модельдер үлкенірек тәуекелдерді білдіреді. Ал акционерлер ше? Олар тоқсандық кірістер қауіп төнген кезде шыдамдылығымен немесе «адамзат игілігіне» деген терең қамқорлығымен танымал емес. Бұл тұрақты тартыс, мағыналы нәрсе жасауға тырысқан кез келген адам үшін нағыз бас ауруы.

Мұндағы үйкеліс нүктелерін қарастырайық. Біріншіден, қоғамдық компанияға айналудың әкімшілік ауыртпалығы. Құжаттарды толтыру, сәйкестік, шексіз заңды тексерулер – бұл ресурстарды сарқып, нақты ЖИ әзірлеуден назарды аударады. Екіншіден, өсу мақсаттарына жету қысымы. Сіз бұрыштардың кесілгенін, мерзімдердің қысқарғанын көресіз. Сол «қауіпсіздік» миссиясы? Нарық сіздің мойныңызда тұрғанда, оны басымдыққа айналдыру қиындайды. Үшіншіден, инвесторлармен қарым-қатынас циркі. Әрбір қате қадам, әрбір этикалық пікірталас жүз есе ұлғаяды. Бұл тек жақсы технология жасау емес; бұл қабылдауды басқару, бұл өте шаршатады.

Anthropic екі жақты да ұстауға тырысады. Олар озық мүмкіндіктерді алға жылжытады, бірақ сонымен бірге бүкіл процеске қорғаныс тетіктерін орнатуға тырысады. Бұл нәзік би. Қоғамдық нарық машинасы шынымен жұмыс істей бастағанда, бұл тепе-теңдік қанша уақыт сақталатынына таң қалуға болады. Брокерлер мен талдаушылар? Олар сіздің миссия мәлімдемеңізге мән бермейді; олар түпкі нәтижеге мән береді. Бұл қиын жағдай, және шынымды айтсам, мен олардың жіңішке арқанмен жүруіне қызғанбаймын.