Hvordan kan Amazon bruge tilpassede AWS -chips til at indhente Microsoft og Google i AI -feltet?
Ifølge CNBC designer Amazon -teamet to chips, kodenavnet Inferentia og træning til træning og accelererer generativ kunstig intelligens.Disse chips giver en alternativ mulighed for Amazon Cloud Services AWS -kunder til at træne store sprogmodeller i stedet for NVIDIA -grafikprocessorer.I øjeblikket er indkøb af GPU'er blevet stadig vanskeligere og dyre, og disse tilpassede chips kan give AWS -kunder alternative løsninger til træning af store sprogmodeller på NVIDIA -chips.
Amazon Cloud Technology CEO Adam Selipsky sagde i juni i år, "Verden håber at have flere chips til generativ kunstig intelligens, hvad enten det er GPU'er eller Amazons selvudviklede chips, vi designer, vi designer
Imidlertid har andre virksomheder taget hurtigere handling og investeret flere midler til at få forretning fra bølgen af generativ kunstig intelligens.Da Openai lancerede Chatgpt i november sidste år, fik Microsoft bred opmærksomhed for sine chatbots og $ 13 milliarder investering i Openai.Virksomheden tilføjede hurtigt generative kunstige intelligensmodeller til sine produkter og fusionerede dem til Bing i februar i år.
I samme måned lancerede Google sin egen store sprogmodel, Bard, og investerede derefter $ 300 millioner i Openai-konkurrent Anthropic.
Det var først i april, at Amazon annoncerede lanceringen af sin egen Large Language Model Series (kaldet Titan) og en bedlock -service for at hjælpe udviklere med at bruge generativ AI -forbedringssoftware.
Amazon er ikke vant til at jage markedet.Amazon er vant til at skabe markedet.Jeg tror for første gang i lang tid, de har fundet sig selv i en ulempe og arbejder hårdt for at indhente, "sagde Chirag DeKate, vicepræsidentanalytiker hos Gartner.
Meta har for nylig frigivet sine egne LLAMA 2 -større modeller.Denne open source Chatgpt -konkurrent kan nu testes på Microsofts Azure Public Cloud.
Chips er 'ægte differentiering'
DeKate sagde, at Amazons tilpassede chips på lang sigt kan give det en fordel inden for generativ kunstig intelligens,
Jeg tror, den sande differentiering ligger i de tekniske kapaciteter, de udøver, da Microsoft ikke har tilpasset chips til træning eller inferentier
AWS begyndte roligt at producere brugerdefinerede chips allerede i 2013 ved hjælp af en specialiseret hardware kaldet Nitro, som nu er den bedst sælgende AWS-chip.Amazon hævder, at hver AWS -server har mindst en, med en samlet brug på over 20 millioner.
I 2015 erhvervede Amazon israelsk chipstart Annapurna Labs.I 2018 lancerede Amazon den armbaserede server Chip Graviton, som er en konkurrent til x86 CPU'er fra giganter som AMD og Intel.
ARM kan udgøre et højt enkeltcifret eller endda 10% af det samlede serversalg, hvor en stor del kommer fra Amazon.Derfor klarer de sig ganske godt med hensyn til CPU, "sagde Stacy Rasgon, senioranalytiker hos Bernstein Research.
Også i 2018 lancerede Amazon Chips fokuseret på kunstig intelligens.For to år siden annoncerede Google lanceringen af sin første Tensor Processor Unit (TPU).Microsoft har endnu ikke annonceret, at den udvikler Athena AI -chippen, som efter sigende er udviklet i samarbejde med AMD.
Matt Wood, vicepræsident for Amazon Products, forklarede brugen af trænings- og Inferentia -chips.
Maskinindlæring er opdelt i disse to forskellige faser.Derfor træner du maskinindlæringsmodeller og udledte derefter disse træne modeller, "sagde Wood. Sammenlignet med enhver anden metode til træning af maskinlæringsmodeller på AWS har træning forbedret sin omkostningseffektivitet med ca. 50%
Efter frigivelsen af Inferentia i 2019 (i øjeblikket i sin anden generation) blev træning først lanceret i 2021.
Inferentia "giver meget lave omkostninger, høj gennemstrømning og lav latens maskinlæring inferens, hvilket betyder, at når du indtaster en hurtig i en generativ kunstig intelligensmodel, behandles alle forudsigelser her for at give et svar," sagde Wood.
I øjeblikket er Nvidias GPU stadig kongen med hensyn til træningsmodeller.I juli i år lancerede AWS en ny AI -accelerationshardware understøttet af NVIDIA H100.
Rasgon sagde, "Nvidia Chips har et enormt softwareøkosystem, og i løbet af de sidste 15 år er softwareøkosystemet, der er bygget omkring dem, uden sidestykke af andre virksomheder. I øjeblikket er den største vinder inden for kunstig intelligens Nvidia
Udnyttelse af skyfordele
Imidlertid er AWS's sky -dominans en vigtig differentieringsfaktor for Amazon.
Amazon har ikke brug for nogen ekstra opmærksomhed.Amazon har allerede et meget stærkt skyinstallationsfundament.Alt, hvad de skal gøre, er at finde ud af, hvordan man gør det muligt for eksisterende kunder at udnytte generativ kunstig intelligens for at udvide til værdiskabelse, "sagde DeKate.
Når man vælger generativ kunstig intelligens mellem Amazon, Google og Microsoft, kan millioner af AWS -kunder blive tiltrukket af Amazon, da de allerede er bekendt med Amazon og driver andre applikationer og gemmer data der.
Mai Lan Tomsen Bukovec, vicepræsident for AWS -teknologi, forklarede: "Dette er et spørgsmål om hastighed. Hvor hurtigt disse virksomheder kan udvikle disse generative kunstige intelligensapplikationer afhænger af, hvordan de starter med data i AWS og bruger computer- og maskinlæringsværktøjer, viSørg for at køre det
Ifølge Gartner Data er AWS verdens største cloud computing-udbyder med en markedsandel på 40% i 2022. Selvom Amazons driftsresultat er faldet år til år i tre på hinanden følgende kvartaler, tegnede AWS sig stadig for 70% af Amazons 7,7 milliarder dollarsDriftsresultat i andet kvartal.Fra et historisk perspektiv er AWS's driftsmæssige fortjenstmargen meget højere end Google Cloud.
Derudover har AWS også en stigende portefølje af udviklerværktøjer, der er fokuseret på generativ kunstig intelligens.Swami Sivasubramanian, vicepræsident for database, analyse og maskinlæring på AWS, sagde: "Lad os vende uret tilbage, selv før Chatgpt. Det er ikke som efter det, vi pludselig skyndte os ud med en plan, fordi du ikke kan designe en nyChip i så hurtigt, så meget mindre at etablere en grundlæggende service på 2 til 3 måneder
Bedlock kan give AWS -kunder adgang til store sprogmodeller udviklet af antiopisk, stabilitet AI, AI21 Labs og Amazon Titan.Sivasubramanian sagde: "Vi tror ikke, at en model vil regere verden. Vi ønsker, at vores kunder skal have avancerede modeller fra flere leverandører, fordi de vil vælge de rigtige værktøjer til det rigtige job
Et af Amazons seneste kunstige efterretningsprodukter er AWS Healthscribe, der blev lanceret i juli og sigter mod at hjælpe læger med at udarbejde patientbesøg resume ved hjælp af generativ kunstig intelligens.Amazon har også et maskinlæringscenter kaldet Sagemaker, der leverer tjenester som algoritmer og modeller.
Et andet vigtigt værktøj er Codewhisperer, som Amazon siger har øget udviklernes opgaveshastighed med et gennemsnit på 57%.Sidste år rapporterede Microsoft også, at dets kodningsværktøj Github Copilot har forbedret arbejdseffektiviteten.
I juni i år annoncerede AWS en investering på 100 millioner dollars for at etablere et generativt kunstigt efterretningsinnovationscenter.Adam Selipsky, administrerende direktør for AWS, sagde: "Vi har mange klienter, der ønsker generativ kunstig intelligensteknologi, men de ved måske ikke nødvendigvis, hvad det betyder for dem i deres egen forretningskontekst. Derfor vil vi introducere løsningsarkitekter, ingeniører, strateger,og dataforskere til at arbejde sammen med dem en-til-en
Selvom AWS hidtil hovedsageligt har fokuseret på at udvikle værktøjer snarere end at bygge konkurrenter til ChatGpt, viser en for nylig lækket intern e -mail, at Amazon CEO Andy Jassy direkte fører tilsyn med et nyt centralt hold, der også bygger skalerbare store sprogmodeller.
I løbet af det andet kvartals finansrapportkonferenceopkald sagde Jia Xi, at en "betydelig del" af AWS's forretning nu er drevet af kunstig intelligens og dens support til mere end 20 maskinlæringstjenester, med kunder, herunder Philips, 3M, Old Mutual og HSBC.
Den eksplosive vækst af kunstig intelligens har medført en række sikkerhedsmæssige bekymringer, da virksomheder er bekymrede for, at medarbejderne vil inkorporere proprietær information i uddannelsesdata, der bruges i den almindelige store sprogmodel.
Adam Selipsky sagde, "Jeg kan ikke fortælle dig, hvor mange Fortune 500 -virksomheder, jeg har kontaktet, har deaktiveret Chatgpt. Derfor vil der gennem vores generative kunstige intelligensmetoder og bedlås -tjenester, alt hvad du gør og bruger gennem sengelåsen være i dit eget uafhængige virtuelle private skymiljø. Det vil blive krypteret og have den samme AWS -adgangskontrol
På nuværende tidspunkt fremskynder Amazon kun fremme af generativ kunstig intelligens og hævder, at "over 100000" kunder i øjeblikket bruger maskinlæring på AWS.Selvom dette kun tegner sig for en lille del af AWS's millioner af kunder, siger analytikere, at denne situation kan ændre sig.
Vi ser ikke virksomheder, der siger: 'Åh, vent et øjeblik, Microsoft leder allerede i generativ kunstig intelligens.Lad os gå ud og ændre vores infrastrukturstrategi, flytte alt til Microsoftware.Hvis du allerede er kunde hos Amazon, vil du sandsynligvis udforske Amazon -økosystemet mere vidtgående. '
Amazon Cloud Technology CEO Adam Selipsky sagde i juni i år, "Verden håber at have flere chips til generativ kunstig intelligens, hvad enten det er GPU'er eller Amazons selvudviklede chips, vi designer, vi designer
Imidlertid har andre virksomheder taget hurtigere handling og investeret flere midler til at få forretning fra bølgen af generativ kunstig intelligens.Da Openai lancerede Chatgpt i november sidste år, fik Microsoft bred opmærksomhed for sine chatbots og $ 13 milliarder investering i Openai.Virksomheden tilføjede hurtigt generative kunstige intelligensmodeller til sine produkter og fusionerede dem til Bing i februar i år.
I samme måned lancerede Google sin egen store sprogmodel, Bard, og investerede derefter $ 300 millioner i Openai-konkurrent Anthropic.
Det var først i april, at Amazon annoncerede lanceringen af sin egen Large Language Model Series (kaldet Titan) og en bedlock -service for at hjælpe udviklere med at bruge generativ AI -forbedringssoftware.
Amazon er ikke vant til at jage markedet.Amazon er vant til at skabe markedet.Jeg tror for første gang i lang tid, de har fundet sig selv i en ulempe og arbejder hårdt for at indhente, "sagde Chirag DeKate, vicepræsidentanalytiker hos Gartner.
Meta har for nylig frigivet sine egne LLAMA 2 -større modeller.Denne open source Chatgpt -konkurrent kan nu testes på Microsofts Azure Public Cloud.
Chips er 'ægte differentiering'
DeKate sagde, at Amazons tilpassede chips på lang sigt kan give det en fordel inden for generativ kunstig intelligens,
Jeg tror, den sande differentiering ligger i de tekniske kapaciteter, de udøver, da Microsoft ikke har tilpasset chips til træning eller inferentier
AWS begyndte roligt at producere brugerdefinerede chips allerede i 2013 ved hjælp af en specialiseret hardware kaldet Nitro, som nu er den bedst sælgende AWS-chip.Amazon hævder, at hver AWS -server har mindst en, med en samlet brug på over 20 millioner.
I 2015 erhvervede Amazon israelsk chipstart Annapurna Labs.I 2018 lancerede Amazon den armbaserede server Chip Graviton, som er en konkurrent til x86 CPU'er fra giganter som AMD og Intel.
ARM kan udgøre et højt enkeltcifret eller endda 10% af det samlede serversalg, hvor en stor del kommer fra Amazon.Derfor klarer de sig ganske godt med hensyn til CPU, "sagde Stacy Rasgon, senioranalytiker hos Bernstein Research.
Også i 2018 lancerede Amazon Chips fokuseret på kunstig intelligens.For to år siden annoncerede Google lanceringen af sin første Tensor Processor Unit (TPU).Microsoft har endnu ikke annonceret, at den udvikler Athena AI -chippen, som efter sigende er udviklet i samarbejde med AMD.
Matt Wood, vicepræsident for Amazon Products, forklarede brugen af trænings- og Inferentia -chips.
Maskinindlæring er opdelt i disse to forskellige faser.Derfor træner du maskinindlæringsmodeller og udledte derefter disse træne modeller, "sagde Wood. Sammenlignet med enhver anden metode til træning af maskinlæringsmodeller på AWS har træning forbedret sin omkostningseffektivitet med ca. 50%
Efter frigivelsen af Inferentia i 2019 (i øjeblikket i sin anden generation) blev træning først lanceret i 2021.
Inferentia "giver meget lave omkostninger, høj gennemstrømning og lav latens maskinlæring inferens, hvilket betyder, at når du indtaster en hurtig i en generativ kunstig intelligensmodel, behandles alle forudsigelser her for at give et svar," sagde Wood.
I øjeblikket er Nvidias GPU stadig kongen med hensyn til træningsmodeller.I juli i år lancerede AWS en ny AI -accelerationshardware understøttet af NVIDIA H100.
Rasgon sagde, "Nvidia Chips har et enormt softwareøkosystem, og i løbet af de sidste 15 år er softwareøkosystemet, der er bygget omkring dem, uden sidestykke af andre virksomheder. I øjeblikket er den største vinder inden for kunstig intelligens Nvidia
Udnyttelse af skyfordele
Imidlertid er AWS's sky -dominans en vigtig differentieringsfaktor for Amazon.
Amazon har ikke brug for nogen ekstra opmærksomhed.Amazon har allerede et meget stærkt skyinstallationsfundament.Alt, hvad de skal gøre, er at finde ud af, hvordan man gør det muligt for eksisterende kunder at udnytte generativ kunstig intelligens for at udvide til værdiskabelse, "sagde DeKate.
Når man vælger generativ kunstig intelligens mellem Amazon, Google og Microsoft, kan millioner af AWS -kunder blive tiltrukket af Amazon, da de allerede er bekendt med Amazon og driver andre applikationer og gemmer data der.
Mai Lan Tomsen Bukovec, vicepræsident for AWS -teknologi, forklarede: "Dette er et spørgsmål om hastighed. Hvor hurtigt disse virksomheder kan udvikle disse generative kunstige intelligensapplikationer afhænger af, hvordan de starter med data i AWS og bruger computer- og maskinlæringsværktøjer, viSørg for at køre det
Ifølge Gartner Data er AWS verdens største cloud computing-udbyder med en markedsandel på 40% i 2022. Selvom Amazons driftsresultat er faldet år til år i tre på hinanden følgende kvartaler, tegnede AWS sig stadig for 70% af Amazons 7,7 milliarder dollarsDriftsresultat i andet kvartal.Fra et historisk perspektiv er AWS's driftsmæssige fortjenstmargen meget højere end Google Cloud.
Derudover har AWS også en stigende portefølje af udviklerværktøjer, der er fokuseret på generativ kunstig intelligens.Swami Sivasubramanian, vicepræsident for database, analyse og maskinlæring på AWS, sagde: "Lad os vende uret tilbage, selv før Chatgpt. Det er ikke som efter det, vi pludselig skyndte os ud med en plan, fordi du ikke kan designe en nyChip i så hurtigt, så meget mindre at etablere en grundlæggende service på 2 til 3 måneder
Bedlock kan give AWS -kunder adgang til store sprogmodeller udviklet af antiopisk, stabilitet AI, AI21 Labs og Amazon Titan.Sivasubramanian sagde: "Vi tror ikke, at en model vil regere verden. Vi ønsker, at vores kunder skal have avancerede modeller fra flere leverandører, fordi de vil vælge de rigtige værktøjer til det rigtige job
Et af Amazons seneste kunstige efterretningsprodukter er AWS Healthscribe, der blev lanceret i juli og sigter mod at hjælpe læger med at udarbejde patientbesøg resume ved hjælp af generativ kunstig intelligens.Amazon har også et maskinlæringscenter kaldet Sagemaker, der leverer tjenester som algoritmer og modeller.
Et andet vigtigt værktøj er Codewhisperer, som Amazon siger har øget udviklernes opgaveshastighed med et gennemsnit på 57%.Sidste år rapporterede Microsoft også, at dets kodningsværktøj Github Copilot har forbedret arbejdseffektiviteten.
I juni i år annoncerede AWS en investering på 100 millioner dollars for at etablere et generativt kunstigt efterretningsinnovationscenter.Adam Selipsky, administrerende direktør for AWS, sagde: "Vi har mange klienter, der ønsker generativ kunstig intelligensteknologi, men de ved måske ikke nødvendigvis, hvad det betyder for dem i deres egen forretningskontekst. Derfor vil vi introducere løsningsarkitekter, ingeniører, strateger,og dataforskere til at arbejde sammen med dem en-til-en
Selvom AWS hidtil hovedsageligt har fokuseret på at udvikle værktøjer snarere end at bygge konkurrenter til ChatGpt, viser en for nylig lækket intern e -mail, at Amazon CEO Andy Jassy direkte fører tilsyn med et nyt centralt hold, der også bygger skalerbare store sprogmodeller.
I løbet af det andet kvartals finansrapportkonferenceopkald sagde Jia Xi, at en "betydelig del" af AWS's forretning nu er drevet af kunstig intelligens og dens support til mere end 20 maskinlæringstjenester, med kunder, herunder Philips, 3M, Old Mutual og HSBC.
Den eksplosive vækst af kunstig intelligens har medført en række sikkerhedsmæssige bekymringer, da virksomheder er bekymrede for, at medarbejderne vil inkorporere proprietær information i uddannelsesdata, der bruges i den almindelige store sprogmodel.
Adam Selipsky sagde, "Jeg kan ikke fortælle dig, hvor mange Fortune 500 -virksomheder, jeg har kontaktet, har deaktiveret Chatgpt. Derfor vil der gennem vores generative kunstige intelligensmetoder og bedlås -tjenester, alt hvad du gør og bruger gennem sengelåsen være i dit eget uafhængige virtuelle private skymiljø. Det vil blive krypteret og have den samme AWS -adgangskontrol
På nuværende tidspunkt fremskynder Amazon kun fremme af generativ kunstig intelligens og hævder, at "over 100000" kunder i øjeblikket bruger maskinlæring på AWS.Selvom dette kun tegner sig for en lille del af AWS's millioner af kunder, siger analytikere, at denne situation kan ændre sig.
Vi ser ikke virksomheder, der siger: 'Åh, vent et øjeblik, Microsoft leder allerede i generativ kunstig intelligens.Lad os gå ud og ændre vores infrastrukturstrategi, flytte alt til Microsoftware.Hvis du allerede er kunde hos Amazon, vil du sandsynligvis udforske Amazon -økosystemet mere vidtgående. '