Kuinka Amazon voi käyttää räätälöityjä AWS -siruja kiinni Microsoftin ja Googlen kanssa AI -kentällä?
CNBC: n mukaan Amazon -tiimi suunnittelee kahta sirua, koodinimeltään Inferentia ja koulutusta, generatiivisen tekoälyn koulutukseen ja kiihdyttämiseen.Nämä sirut tarjoavat vaihtoehtoisen vaihtoehdon Amazon Cloud Services AWS -asiakkaille kouluttaa suuria kielimalleja NVIDIA -grafiikkaprosessorien sijasta.Tällä hetkellä GPU: n hankinta on tullut yhä vaikeampaa ja kalliimpaa, ja nämä räätälöidyt sirut voivat tarjota AWS -asiakkaille vaihtoehtoisia ratkaisuja suurten kielimallien kouluttamiseen NVIDIA -siruilla.
Amazon Cloud Technology -yrityksen toimitusjohtaja Adam Selipsky sanoi tämän vuoden kesäkuussa: "Maailma toivoo saavansa enemmän siruja generatiiviseen tekoälyyn, olipa kyse sitten GPU: n vai Amazonin itse kehittämästä siruistamme, joita suunnittelemme
Muut yritykset ovat kuitenkin ryhtyneet nopeampiin toimiin ja sijoittaneet enemmän varoja liiketoiminnan hankkimiseksi generatiivisen tekoälyn aallosta.Kun Openai käynnisti ChatgPT: n viime vuoden marraskuussa, Microsoft sai laajalle levinnyt huomion chatboteistaan ja 13 miljardin dollarin sijoituksista OpenAI: iin.Yhtiö lisäsi tuotteisiinsa nopeasti generatiivisia tekoälymallia ja sulautti ne Bingiin tämän vuoden helmikuussa.
Samassa kuussa Google julkaisi oman laajamittaisen kielimallinsa Bardin ja sijoitti myöhemmin 300 miljoonaa dollaria OpenAi-kilpailijoiden antropialle.
Vasta huhtikuussa Amazon ilmoitti oman suuren kielimallisarjan (nimeltään Titan) ja Bedlock -palvelun julkaisemisesta, joka auttaa kehittäjiä käyttämään generatiivista AI -parannusohjelmistoa.
Amazon ei ole tottunut jahtaamaan markkinoita.Amazon on tottunut luomaan markkinoita.Luulen, että he ovat ensimmäistä kertaa pitkään aikaan, he ovat joutuneet epäedulliseen asemaan ja työskentelevät ahkerasti kiinni ", sanoi Gartnerin varapuheenjohtaja Chirag Dekate.
Meta on äskettäin julkaissut omat Llaama 2 -mallinsa.Tämä avoimen lähdekoodin chatgpt -kilpailija voidaan nyt testata Microsoftin Azure Public Cloudissa.
Sirut ovat 'todellinen erottelu'
Dekate totesi, että Amazonin räätälöidyt sirut voivat pitkällä tähtäimellä antaa sille etua generatiivisen tekoälyn alalla,
Mielestäni todellinen erottelu on heidän käyttämillä teknisissä ominaisuuksissa, koska Microsoftilla ei ole räätälöityjä siruja koulutukseen tai inferentiaan
AWS aloitti hiljaa räätälöityjen sirujen tuottamisen jo vuonna 2013 käyttämällä Nitro-nimistä erikoislaitteistoa, joka on nyt myydyin AWS-siru.Amazon väittää, että jokaisella AWS -palvelimella on vähintään yksi, ja kokonaiskäyttö on yli 20 miljoonaa.
Vuonna 2015 Amazon osti Israelin sirun aloittavan Annapurna Labs.Vuonna 2018 Amazon käynnisti ARM -pohjaisen palvelinsirun Gravitonin, joka on kilpailija X86 -prosessorille jättiläisistä, kuten AMD ja Intel.
ARM voi muodostaa korkean numeron tai jopa 10% palvelimen kokonaismyynnistä, ja suuri osa tulee Amazonista.Siksi heillä on melko hyvin CPU: n suhteen ", sanoi Bernstein Researchin vanhempi analyytikko Stacy Rasgon.
Myös vuonna 2018 Amazon käynnisti keinotekoiseen älykkyyteen keskittyneet sirut.Kaksi vuotta sitten Google ilmoitti ensimmäisen tensoriprosessoriyksikön (TPU) käynnistävänsä.Microsoft ei ole vielä ilmoittanut kehittävänsä Athena AI -sirua, jonka on ilmoitettu kehitettävän yhteistyössä AMD: n kanssa.
Amazon Productsin varapuheenjohtaja Matt Wood selitti koulutus- ja Inferentia -sirujen käyttöä.
Koneoppiminen on jaettu näihin kahteen eri vaiheeseen.Siksi koulutat koneoppimista malleja ja päättelet sitten nämä koulutetut mallit ", Wood sanoi. Verrattuna muihin AWS: n koneoppimismallien kouluttamiseen, koulutus on parantanut sen kustannustehokkuutta noin 50%
Inferentian julkaisemisen jälkeen vuonna 2019 (tällä hetkellä toisen sukupolvensa), koulutus käynnistettiin ensimmäisen kerran vuonna 2021.
Inferentia "tarjoaa erittäin edulliset, korkean läpäisy- ja matalan viiveiden koneoppimisen päätelmät, mikä tarkoittaa, että kun syötät kehotuksen generatiiviseen tekoälyn malliin, kaikki ennusteet käsitellään tässä vastauksen antamiseksi", Wood sanoi.
Nvidian GPU on kuitenkin tällä hetkellä kuninkaana koulutusmallien suhteen.Tämän vuoden heinäkuussa AWS julkaisi uuden AI -kiihtyvyyslaitteiston, jota tukee NVIDIA H100.
Rasgon sanoi: "Nvidia -siruilla on valtava ohjelmistoekosysteemi, ja viimeisen 15 vuoden aikana muut yritykset ovat vertaansa vaillaan heidän ympärillään rakennettua ohjelmistoekosysteemiä. Tällä hetkellä keinotekoisen älykkyyden suurin voittaja on Nvidia
Hyödyntäminen pilvietujen hyödyntäminen
AWS: n pilvivälitys on kuitenkin Amazonille tärkeä erottelutekijä.
Amazon ei tarvitse ylimääräistä huomiota.Amazonilla on jo erittäin vahva pilviasennussäätiö.Heidän on vain selvitettävä, kuinka nykyiset asiakkaat voivat hyödyntää generatiivista tekoälyä laajentaakseen arvon luomistoimintaa ", Dekate sanoi.
Kun valitset generatiivisen tekoälyn Amazonin, Googlen ja Microsoftin välillä, miljoonat AWS -asiakkaat saattavat houkutella Amazonia, koska he ovat jo tuttuja Amazoniin ja käyttävät muita sovelluksia ja tallentavat tietoja siellä.
AWS -tekniikan varapuheenjohtaja Mai Lan Tomsen Bukovec selitti: "Tämä on nopeuden kysymys. Kuinka nopeasti nämä yritykset voivat kehittää näitä generatiivisia tekoälyn sovelluksia, riippuu siitä, kuinka ne alkavat AWS: n tietojen kanssa ja käyttävät tietojenkäsittelyä ja koneoppimistyökaluja, joita olemmeantaa sen ohjaamiseksi
Gartner-tietojen mukaan AWS on maailman suurin pilvipalvelujen tarjoaja, jonka markkinaosuus on 40% vuonna 2022. Vaikka Amazonin liikevoitto on vähentynyt edellisvuodesta kolmen peräkkäisen vuosineljänneksen osalta, AWS: n osuus on edelleen 70% Amazonin 7,7 miljardista dollaristaLiikevoitto toisella vuosineljänneksellä.Historiallisesta näkökulmasta AWS: n liikevoittojen marginaali on paljon korkeampi kuin Google Cloud.
Lisäksi AWS: llä on myös kasvava portfolio kehittäjätyökaluista, jotka keskittyvät generatiiviseen tekoälyyn.AWS: n tietokannan, analysoinnin ja koneoppimisen varapuheenjohtaja Swami Sivasubramanian sanoi: "Käännämme kello takaisin, jopa ennen chatgpt. Se ei ole sen jälkeen, että ryntäsimme yhtäkkiä suunnitelmalla, koska et voi suunnitella uutta uuttasiru siinä nopeasti, puhumattakaan peruspalvelun perustamisesta 2-3 kuukaudessa
Bedlock voi tarjota AWS -asiakkaille pääsyn suuriin kielimalleihin, jotka ovat kehittäneet antiopic, vakaus AI, AI21 Labs ja Amazon Titan.Sivasubramanian sanoi: "Emme usko, että yksi malli hallitsee maailmaa. Haluamme,
Yksi Amazonin viimeisimmistä tekoälytuotteista on AWS HealthScribe, joka lanseerattiin heinäkuussa, ja sen tavoitteena on auttaa lääkäreitä piirtämään potilasvierailua generatiivisen tekoälyn avulla.Amazonilla on myös koneoppimiskeskus nimeltä Sagemaker, joka tarjoaa palveluita, kuten algoritmeja ja malleja.
Toinen tärkeä työkalu on Codewhisperer, jonka Amazonin mukaan on lisännyt kehittäjien tehtävän suorittamisen nopeutta keskimäärin 57%.Viime vuonna Microsoft kertoi myös, että koodaustyökalu Github Copilot on parantanut työn tehokkuutta.
Tämän vuoden kesäkuussa AWS ilmoitti 100 miljoonan dollarin investoinnista generatiivisen tekoälyn innovaatiokeskuksen perustamiseen.AWS: n toimitusjohtaja Adam Selipsky sanoi: "Meillä on monia asiakkaita, jotka haluavat generatiivisen tekoälyn tekniikan, mutta he eivät välttämättä tiedä, mitä heille tarkoittaa heidän omassa liiketoimintayhteydessä. Siksi esittelemme ratkaisuarkkitehdit, insinöörit, strategiat,ja datatieteilijät työskennellä heidän kanssaan yksi-yksi
Vaikka AWS on toistaiseksi keskittynyt pääasiassa työkalujen kehittämiseen sen sijaan, että rakentaisi kilpailijoita ChatgPT: lle, äskettäin vuotanut sisäinen sähköposti osoittaa, että Amazonin toimitusjohtaja Andy Jassy valvoo suoraan uutta keskusjoukkuetta, joka rakentaa myös skaalautuvia suuria kielimalleja.
Toisen vuosineljänneksen taloudellisen raportin neuvottelupuhelun aikana Jia Xi totesi, että AWS: n liiketoiminnan "merkittävä osa" johtaa nyt keinotekoinen älykkyys ja sen tuki yli 20 koneoppimispalveluun, mukaan lukien Philips, 3M, Old Mutual ja HSBC.
Keinotekoisen älykkyyden räjähtävä kasvu on aiheuttanut sarjan turvallisuusongelmia, koska yritykset ovat huolissaan siitä, että työntekijät sisällyttävät omistustiedot yleisen suuren kielimallin koulutustietoihin.
Adam Selipsky sanoi: "En voi kertoa sinulle, kuinka monta Fortune 500 -yritystä olen ottanut yhteyttä vammaiseen chatgptiin. Siksi generatiivisten keinotekoisten älykkyysmenetelmien ja bedlock -palveluidemme avulla kaikki tekemäsi ja käyttämäsi Bedlock on omassa itsenäisessä virtuaalisessa yksityisessä pilviympäristössäsi.
Tällä hetkellä Amazon kiihdyttää vain generatiivisen tekoälyn mainostamista väittäen, että "yli 100000" asiakasta käyttää tällä hetkellä koneoppimista AWS: llä.Vaikka tämä on vain pieni osa AWS: n miljoonista asiakkaista, analyytikot sanovat, että tämä tilanne voi muuttua.
Emme näe yrityksiä sanovan: 'Voi, odota hetki, Microsoft on jo johtava generatiivisessa tekoälyssä.Mennään ulos ja muuttamaan infrastruktuuristrategiaamme siirtämällä kaiken Microsoftware -ohjelmaan.Jos olet jo Amazonin asiakas, tutkit todennäköisesti Amazonin ekosysteemiä laajemmin. "
Amazon Cloud Technology -yrityksen toimitusjohtaja Adam Selipsky sanoi tämän vuoden kesäkuussa: "Maailma toivoo saavansa enemmän siruja generatiiviseen tekoälyyn, olipa kyse sitten GPU: n vai Amazonin itse kehittämästä siruistamme, joita suunnittelemme
Muut yritykset ovat kuitenkin ryhtyneet nopeampiin toimiin ja sijoittaneet enemmän varoja liiketoiminnan hankkimiseksi generatiivisen tekoälyn aallosta.Kun Openai käynnisti ChatgPT: n viime vuoden marraskuussa, Microsoft sai laajalle levinnyt huomion chatboteistaan ja 13 miljardin dollarin sijoituksista OpenAI: iin.Yhtiö lisäsi tuotteisiinsa nopeasti generatiivisia tekoälymallia ja sulautti ne Bingiin tämän vuoden helmikuussa.
Samassa kuussa Google julkaisi oman laajamittaisen kielimallinsa Bardin ja sijoitti myöhemmin 300 miljoonaa dollaria OpenAi-kilpailijoiden antropialle.
Vasta huhtikuussa Amazon ilmoitti oman suuren kielimallisarjan (nimeltään Titan) ja Bedlock -palvelun julkaisemisesta, joka auttaa kehittäjiä käyttämään generatiivista AI -parannusohjelmistoa.
Amazon ei ole tottunut jahtaamaan markkinoita.Amazon on tottunut luomaan markkinoita.Luulen, että he ovat ensimmäistä kertaa pitkään aikaan, he ovat joutuneet epäedulliseen asemaan ja työskentelevät ahkerasti kiinni ", sanoi Gartnerin varapuheenjohtaja Chirag Dekate.
Meta on äskettäin julkaissut omat Llaama 2 -mallinsa.Tämä avoimen lähdekoodin chatgpt -kilpailija voidaan nyt testata Microsoftin Azure Public Cloudissa.
Sirut ovat 'todellinen erottelu'
Dekate totesi, että Amazonin räätälöidyt sirut voivat pitkällä tähtäimellä antaa sille etua generatiivisen tekoälyn alalla,
Mielestäni todellinen erottelu on heidän käyttämillä teknisissä ominaisuuksissa, koska Microsoftilla ei ole räätälöityjä siruja koulutukseen tai inferentiaan
AWS aloitti hiljaa räätälöityjen sirujen tuottamisen jo vuonna 2013 käyttämällä Nitro-nimistä erikoislaitteistoa, joka on nyt myydyin AWS-siru.Amazon väittää, että jokaisella AWS -palvelimella on vähintään yksi, ja kokonaiskäyttö on yli 20 miljoonaa.
Vuonna 2015 Amazon osti Israelin sirun aloittavan Annapurna Labs.Vuonna 2018 Amazon käynnisti ARM -pohjaisen palvelinsirun Gravitonin, joka on kilpailija X86 -prosessorille jättiläisistä, kuten AMD ja Intel.
ARM voi muodostaa korkean numeron tai jopa 10% palvelimen kokonaismyynnistä, ja suuri osa tulee Amazonista.Siksi heillä on melko hyvin CPU: n suhteen ", sanoi Bernstein Researchin vanhempi analyytikko Stacy Rasgon.
Myös vuonna 2018 Amazon käynnisti keinotekoiseen älykkyyteen keskittyneet sirut.Kaksi vuotta sitten Google ilmoitti ensimmäisen tensoriprosessoriyksikön (TPU) käynnistävänsä.Microsoft ei ole vielä ilmoittanut kehittävänsä Athena AI -sirua, jonka on ilmoitettu kehitettävän yhteistyössä AMD: n kanssa.
Amazon Productsin varapuheenjohtaja Matt Wood selitti koulutus- ja Inferentia -sirujen käyttöä.
Koneoppiminen on jaettu näihin kahteen eri vaiheeseen.Siksi koulutat koneoppimista malleja ja päättelet sitten nämä koulutetut mallit ", Wood sanoi. Verrattuna muihin AWS: n koneoppimismallien kouluttamiseen, koulutus on parantanut sen kustannustehokkuutta noin 50%
Inferentian julkaisemisen jälkeen vuonna 2019 (tällä hetkellä toisen sukupolvensa), koulutus käynnistettiin ensimmäisen kerran vuonna 2021.
Inferentia "tarjoaa erittäin edulliset, korkean läpäisy- ja matalan viiveiden koneoppimisen päätelmät, mikä tarkoittaa, että kun syötät kehotuksen generatiiviseen tekoälyn malliin, kaikki ennusteet käsitellään tässä vastauksen antamiseksi", Wood sanoi.
Nvidian GPU on kuitenkin tällä hetkellä kuninkaana koulutusmallien suhteen.Tämän vuoden heinäkuussa AWS julkaisi uuden AI -kiihtyvyyslaitteiston, jota tukee NVIDIA H100.
Rasgon sanoi: "Nvidia -siruilla on valtava ohjelmistoekosysteemi, ja viimeisen 15 vuoden aikana muut yritykset ovat vertaansa vaillaan heidän ympärillään rakennettua ohjelmistoekosysteemiä. Tällä hetkellä keinotekoisen älykkyyden suurin voittaja on Nvidia
Hyödyntäminen pilvietujen hyödyntäminen
AWS: n pilvivälitys on kuitenkin Amazonille tärkeä erottelutekijä.
Amazon ei tarvitse ylimääräistä huomiota.Amazonilla on jo erittäin vahva pilviasennussäätiö.Heidän on vain selvitettävä, kuinka nykyiset asiakkaat voivat hyödyntää generatiivista tekoälyä laajentaakseen arvon luomistoimintaa ", Dekate sanoi.
Kun valitset generatiivisen tekoälyn Amazonin, Googlen ja Microsoftin välillä, miljoonat AWS -asiakkaat saattavat houkutella Amazonia, koska he ovat jo tuttuja Amazoniin ja käyttävät muita sovelluksia ja tallentavat tietoja siellä.
AWS -tekniikan varapuheenjohtaja Mai Lan Tomsen Bukovec selitti: "Tämä on nopeuden kysymys. Kuinka nopeasti nämä yritykset voivat kehittää näitä generatiivisia tekoälyn sovelluksia, riippuu siitä, kuinka ne alkavat AWS: n tietojen kanssa ja käyttävät tietojenkäsittelyä ja koneoppimistyökaluja, joita olemmeantaa sen ohjaamiseksi
Gartner-tietojen mukaan AWS on maailman suurin pilvipalvelujen tarjoaja, jonka markkinaosuus on 40% vuonna 2022. Vaikka Amazonin liikevoitto on vähentynyt edellisvuodesta kolmen peräkkäisen vuosineljänneksen osalta, AWS: n osuus on edelleen 70% Amazonin 7,7 miljardista dollaristaLiikevoitto toisella vuosineljänneksellä.Historiallisesta näkökulmasta AWS: n liikevoittojen marginaali on paljon korkeampi kuin Google Cloud.
Lisäksi AWS: llä on myös kasvava portfolio kehittäjätyökaluista, jotka keskittyvät generatiiviseen tekoälyyn.AWS: n tietokannan, analysoinnin ja koneoppimisen varapuheenjohtaja Swami Sivasubramanian sanoi: "Käännämme kello takaisin, jopa ennen chatgpt. Se ei ole sen jälkeen, että ryntäsimme yhtäkkiä suunnitelmalla, koska et voi suunnitella uutta uuttasiru siinä nopeasti, puhumattakaan peruspalvelun perustamisesta 2-3 kuukaudessa
Bedlock voi tarjota AWS -asiakkaille pääsyn suuriin kielimalleihin, jotka ovat kehittäneet antiopic, vakaus AI, AI21 Labs ja Amazon Titan.Sivasubramanian sanoi: "Emme usko, että yksi malli hallitsee maailmaa. Haluamme,
Yksi Amazonin viimeisimmistä tekoälytuotteista on AWS HealthScribe, joka lanseerattiin heinäkuussa, ja sen tavoitteena on auttaa lääkäreitä piirtämään potilasvierailua generatiivisen tekoälyn avulla.Amazonilla on myös koneoppimiskeskus nimeltä Sagemaker, joka tarjoaa palveluita, kuten algoritmeja ja malleja.
Toinen tärkeä työkalu on Codewhisperer, jonka Amazonin mukaan on lisännyt kehittäjien tehtävän suorittamisen nopeutta keskimäärin 57%.Viime vuonna Microsoft kertoi myös, että koodaustyökalu Github Copilot on parantanut työn tehokkuutta.
Tämän vuoden kesäkuussa AWS ilmoitti 100 miljoonan dollarin investoinnista generatiivisen tekoälyn innovaatiokeskuksen perustamiseen.AWS: n toimitusjohtaja Adam Selipsky sanoi: "Meillä on monia asiakkaita, jotka haluavat generatiivisen tekoälyn tekniikan, mutta he eivät välttämättä tiedä, mitä heille tarkoittaa heidän omassa liiketoimintayhteydessä. Siksi esittelemme ratkaisuarkkitehdit, insinöörit, strategiat,ja datatieteilijät työskennellä heidän kanssaan yksi-yksi
Vaikka AWS on toistaiseksi keskittynyt pääasiassa työkalujen kehittämiseen sen sijaan, että rakentaisi kilpailijoita ChatgPT: lle, äskettäin vuotanut sisäinen sähköposti osoittaa, että Amazonin toimitusjohtaja Andy Jassy valvoo suoraan uutta keskusjoukkuetta, joka rakentaa myös skaalautuvia suuria kielimalleja.
Toisen vuosineljänneksen taloudellisen raportin neuvottelupuhelun aikana Jia Xi totesi, että AWS: n liiketoiminnan "merkittävä osa" johtaa nyt keinotekoinen älykkyys ja sen tuki yli 20 koneoppimispalveluun, mukaan lukien Philips, 3M, Old Mutual ja HSBC.
Keinotekoisen älykkyyden räjähtävä kasvu on aiheuttanut sarjan turvallisuusongelmia, koska yritykset ovat huolissaan siitä, että työntekijät sisällyttävät omistustiedot yleisen suuren kielimallin koulutustietoihin.
Adam Selipsky sanoi: "En voi kertoa sinulle, kuinka monta Fortune 500 -yritystä olen ottanut yhteyttä vammaiseen chatgptiin. Siksi generatiivisten keinotekoisten älykkyysmenetelmien ja bedlock -palveluidemme avulla kaikki tekemäsi ja käyttämäsi Bedlock on omassa itsenäisessä virtuaalisessa yksityisessä pilviympäristössäsi.
Tällä hetkellä Amazon kiihdyttää vain generatiivisen tekoälyn mainostamista väittäen, että "yli 100000" asiakasta käyttää tällä hetkellä koneoppimista AWS: llä.Vaikka tämä on vain pieni osa AWS: n miljoonista asiakkaista, analyytikot sanovat, että tämä tilanne voi muuttua.
Emme näe yrityksiä sanovan: 'Voi, odota hetki, Microsoft on jo johtava generatiivisessa tekoälyssä.Mennään ulos ja muuttamaan infrastruktuuristrategiaamme siirtämällä kaiken Microsoftware -ohjelmaan.Jos olet jo Amazonin asiakas, tutkit todennäköisesti Amazonin ekosysteemiä laajemmin. "