Apple tuo In Situ ja Sovereign AI:n suurten joukkojen ulottuville
Applen julkaisema täysin laitteessa toimiva tekoälymalli ja ohjelmistokehityspaketti Swift- ja Python-ohjelmointikielille ei ole yksinkertainen kuluttajapäivitys. Se on merkittävä virstanpylväs teknologian kehityksessä valtiollisen hallinnon, puolustuksen ja talouden kannalta.
Tähän asti tekoälyn käyttö on pääosin tarkoittanut älykkyyden vuokraamista keskitetyistä pilvipalveluista, API-jättien kuten OpenAI:n kautta ilman täyttä tietosuojaa, tai pilvipalveluntarjoajien kuten Microsoftn, Amazon:n ja Googlen kautta. Avoimen lähdekoodin mallit kuulostavat vapauttavilta, kunnes tajuat, että niiden ajaminen vaatii silti infrastruktuuria sekä henkilöstön suunnittelemaan, toteuttamaan ja ylläpitämään sitä. Vuokraat tilaa valitsemaltasi pilvipalvelulta, käytät avoimen lähdekoodin välittäjää, ja yhtäkkiä olet takaisin lähtöpisteessä. Olet edelleen riippuvainen jonkun toisen koneista ja jonkun toisen palvelun saatavuudesta.
Toimialoilla kuten terveydenhuolto, lääketeollisuus, rahoitus, hallinto, puolustus, sotilastoiminta ja tiedustelupalvelut tekoälyn ajaminen omassa suljetussa ympäristössä on ehdoton vaatimus. Mikään data ei saa poistua ympäristöstä missään olosuhteissa.
Yksi vaihtoehto on jäljellä: tekoälymallien ajaminen omalla laitteistolla ja omissa tiloissa.
Ongelmana viimeisten 18 kuukauden ajan on ollut, että suurten kielimallien ajaminen on vaatinut massiivisen asennus- ja insinöörityön sekä laskentatehon, joka on aivan eri tasolla kuin perinteinen tietokonekapasiteetti. Tämä oli tilanne ystäväni Chris Gibsonin kohdalla, jonka kanssa perustimme Recursion Pharmaceuticalsin kesällä 2013 Stanfordin kauppakorkeakoulussa. Phenom-1:n kaltaisten massiivisten mallien ajamiseksi lääkekehityksessä Recursion rakensi BioHive-2-supertietokoneen toukokuussa 2024. Se on NVIDIA DGX SuperPOD, jossa on 504 H100 GPU:ta, mikä tekee siitä nopeimman minkään lääkeyhtiön kokonaan omistaman supertietokoneen maailmassa, sijoituksella #35 maailman tehokkaimpien supertietokoneiden TOP500-listalla kaikilla toimialoilla toukokuussa 2024, ja sijalla 76 marraskuussa 2025. Tämä vaatii luonnollisesti miljoonia dollareita investointeja, insinöörityötä ja työkaluja, sekä massiiviset sähkölaskut.
Omien mallien ajaminen paikallisesti oli valtava täyttämätön tarve. Vanha ystäväni Marco Mascorro, robotiikan asiantuntija ja Andreessen Horowitzin partneri, jonka osaamisen näin omakohtaisesti kun työskentelimme ja asuimme yhdessä Mountain Viewissa, ratkaisi tämän. Elokuussa 2025 hän suunnitteli a16z Personal AI Workstationin. Hän pakkasi neljä NVIDIA RTX 6000 Pro Blackwell GPU:ta 384 gigatavun VRAM-muistilla pyörälliseen, 39 500 dollarin pöydänalustaiseen tehokoneeseen, joka toimi tavallisesta seinäpistorasiasta. Vain kuukausia myöhemmin teollisuus seurasi hänen esimerkkiään. Vuoden 2025 lopussa ja vuoden 2026 alussa näimme 3 999 dollarin NVIDIA DGX Sparkin, Dell GB10:n, MSI Edge Expertin ja Asus Essent GX10:n pienentävän tämän konseptin pöytätietokonelaitteiksi.
Tässä kohtaa Applen julkaisu on tärkeä ja todella vallankumouksellinen.
Apple julkaisi Foundation Models -kehyksen, sisäänrakennetun ohjelmistopaketin, jonka avulla kuka tahansa Applen hyväksymä ohjelmoija voi helposti liittää Applen laitteessa olevan tekoälyn suoraan omiin sovelluksiinsa. Tämä tekoäly toimii kokonaan Applen Neural Enginellä, Macin tai iPhonen sisällä olevalla omistetulla siruilla, joka on suunniteltu pelkästään tekoälylaskentaan. Tämä tarkoittaa: ei internetyhteyttä eikä etäkommunikointia. Toimittajasuhdetta ei tarvita alkuasennuksen jälkeen.
Apple-ohjelmoijaksi tuleminen edellyttää tietysti liittymistä Applen kehittäjäohjelmaan ja hyväksyntää henkilönä tai instituutiona. Kokemukseni mukaan Apple on rakentanut maailman johdonmukaisimman ohjelmistokehitysekosysteemin. Ei avoiminta, ei sallivinta, mutta johdonmukaisimman ja tietosuojakeskeisimmän. Se on privacy-by-architecture -malli. Data pysyy laitteessa laitteisto- ja käyttöjärjestelmätasolla. Apple tarkistaa jokaisen ohjelmistojulkaisun hallitakseen toimitusketjua kokonaisuudessaan ja vähentääkseen haavoittuvuuksia.
Kehittäjät käyttävät C:tä, C++:aa, Objective-C:tä ja Swiftiä natiivirakentamiseen. Tämä tarkoittaa, että koodi kommunikoi suoraan laitteiston kanssa ilman käännöskerroksia, mikä tuottaa erittäin nopeaa, alle nanosekunnin suoritusta. Vaihtoehtoisesti kehittäjät voivat käyttää kehyksiä kuten React Native rakentaakseen sovelluksia tutuilla web-kielillä, saavuttaen lähes natiivisuorituksen ilman Applen omien koodausmurteiden opettelua.
Apple julkaisi Swift- ja Python SDK:n, molemmat NSA:n hyväksymiä muistiturvallisia kieliä. Python on tutkijoiden laajalti käyttämä ja massiivisesti omaksuttu kieli, mutta nostan silti esiin sen olevan tunnetusti hidas ja energiaa kuluttava. Applen laitteessa toimiva tekoäly on nyt saatavilla suurille joukoille. Applen tekoälykehyksen ominaisuudet tukevat tekstin generointia, ohjattua generointia strukturoidulle tulostukselle, työkalukutsuja ja turvallisuussuojia. Se on saatavilla iOS:lle, iPadOS:lle, macOS:lle ja visionOS:lle versiosta 26.0 alkaen. Se ei varmasti murskaa vertailuarvoja sosiaalisen median hypettämiseen. Ja tämä on seuraava pointtini.
Mitä Apple teki täällä on aidosti nerouden teko, koska se on sitä mitä kutsun "tylsäksi teknologiseksi innovaatioksi". Se on kompakti, optimoitu malli, joka toimii paikallisesti laitteistolla, jonka omistat jo. On yksi testi, joka on tärkeä vakavissa ympäristöissä: toimiiko se kun verkko on poissa? Kyllä. Poistuuko datasi laitteesta? Ei. Se on koko keskustelu. Se on tylsä työkalu, joka toimii ja tekee työnsä, aivan kuten BIC-kynä tai paperiliitin. Jos globaali verkkoinfrastruktuuri romahtaa huomenna, pöytäsi tekoälyjärjestelmä toimii silti. Tämä on kestävää, pysyvää innovaatiota. Apple on palauttanut tekoälyn ja tietokoneet suvereeneiksi työkaluiksi.
Teknologinen suvereniteetti vaatii kuitenkin kognitiivista suvereniteettiä. Tekoäly ilman inhimillistä intentionaalisuutta on vahvistettua tyhmyyttä. Todellinen etu yksilöille, instituutioille ja kansakunnille ei mene niille, jotka vuokraavat hauraita pilvi-arkkitehtuureja. Se menee niille, jotka ottavat käyttöön joustavia, verkon ulkopuolella toimivia järjestelmiä samalla kun pitävät tiukasti kiinni ajattelun inhimillisestä tottumuksesta.