Soul Machine Stokes nästa generations AI-motorer

Soul Machines Human OS-teknik revolutionerar skräddarsydd service. Företaget har för avsikt att demokratisera tjänstesektorn genom att producera AI-baserade Digital PeopleTM för smidig konsumentinteraktion. Soul Computers behöver starka maskiner utan minne eller beräkningsbegränsningar för att träna maskininlärning och AI-modeller.

Verksamheten använde HP Z8 G4-arbetsstationen med Nvidia Rapids mjukvarupaket för att sätta vägen för enorma modeller som en intern version av Facebooks BlenderBot, en maskinlärande chatbot på en arbetsstation.

Fördelarna med samarbete mellan människa och maskin

Soul Machines skapade Digital PeopleTM genom att slå samman hyperrealistisk CGI och autonom animation för att skapa mänskliga interaktioner för globala marknadsföringsupplevelser. "Soul Machines vill bygga digitala människor för att hjälpa till att demokratisera tjänstebranschen", säger Shane Blackett, Vice President of Software and Technology.

Soul Machines, baserat i San Francisco och Auckland, Nya Zeeland, arbetar med visionära kunder som söker nöjda slutanvändare. "Vi vill gå längre, där den digitala personen, användaren och webbplatsens innehåll samexisterar i en trevägsinteraktion," förklarar Blackett. "Vi bygger en skalbar plattform för digitala människor och genomför en AI-baserad simulering för att lägga till trohet och realism."

Soul Machines Human OS Platform har en patenterad digital hjärna som möjliggör samarbete mellan människa och maskin. Företaget använder AI, maskininlärning och andra komplicerade algoritmer. Soul Machines betjänar finansiella institutioner och konsumentproduktföretag. En digital person för en världsomspännande CPG i Japan säljer kosmetika på japanska och engelska online.

Digitala personas kör modeller som identifierar lärande, känsla och beteende. Att träna och använda AI-baserade och maskininlärningsmodeller och generera bilder kräver mycket CPU, videominne och grafik. HP:s Z8-arbetsstation. Alireza Nejati, Senior R&D Software Engineer på Soul Machines, säger att hans teams träningsmodeller är minnesbegränsade. "GPU-minne var en stor motivation för oss"

Minnesdriven

Nya Zeeland antog COVID-19 när Soul Machines valde HP Z8 i början av 2020. Nejatis personal fick vänta till juni med att använda arbetsstationen efter att företaget flyttade sin IT-verksamhet utanför. "Z8 är vår mest kraftfulla maskin", tillägger Nejati. Det gjorde det möjligt för oss att köra flera modeller, vilket inte skulle vara möjligt på något system på grund av minneskrav.

Han nämner Z8:s konfigurerbarhet, Dual Xeon Gold-processorer, upp till 3TB DDR5 ECC-minne, 4 NVMe M.2-portar för höghastighetslagring och upp till 96 GB GPU-RAM med två RTX 8000-grafikkort. Z8:s Intel® OptaneTM DC Persistent Memory hjälper till med stora, komplicerade datamängder.

Soul Machines körde Z8 manuellt som en server. Verksamheten använde Nvidia Rapids mjukvarubibliotek förpackade med z8 för att bättre hantera resurser. Soul Machines största modell som tidigare tränats på HP Z8 var Facebooks BlenderBot, en chatbot med öppen domän som tränats i onlinediskussioner från olika källor med utvalda datamängder. Medan BlenderBot innehåller 9 miljarder parametrar, mindre än vissa maskininlärningsmodeller.

Nejati anser att det är svårt att träna modellen på ett system och kräver 96 GB videominne. "Du kan inte göra 50 gigabyte." När modellerna var mindre kunde en enda GPU träna en. "Moderna modeller är så enorma att till och med en instans av modellen måste distribueras över flera GPU:er," förklarar Nejati. När GPU:er finns på olika datorer blir mjukvaruutveckling svårt. Du måste sprida modellen korrekt över olika GPU:er eftersom den körs sekventiellt.

Ladda ner Intels whitepaper för att lära dig mer om Soul Machine Stokes Next-Gen AI Engines endast på Whitepapers Online.