Tekoäly

Kyseenalaiset tekoälyn koulutustaktiikat kasvava huolenaihe

David Hamilton
Lisää Securities.io suosikkilähteisiisi Google-palvelussa
Ilmoitus: Securities.io voi saada korvauksen, kun käytät arvioimiemme tuotteiden linkkejä. Tämä ei vaikuta toimituksellisiin arvioihimme. Emme ole rekisteröity sijoitusneuvoja; tämä ei ole sijoitusneuvontaa. Lue kumppanuusilmoituksemme.
AI Training Tactics
Keskeiset kohdatMeta ja OpenAI kaltaiset tekoälyyritykset kohdistuvat oikeusjutuille, koska käyttävät…
Näytä lisää
  • Meta ja OpenAI kaltaiset tekoälyyritykset kohdistuvat oikeusjutuille, koska käyttävät varjokirjastoista saatua piratoidun kirjadataa mallien kouluttamiseen.
  • DeepSeek rakensi 6 miljoonalla dollarilla kilpailijan tekoälynsa hyödyntämällä ChatGPT:n tuotoksia, mikä herätti syytöksiä henkisestä omaisuuden varastamisesta.
  • Sisällöntuottajat vaativat korvauksia, kun tekoälymallit käyttävät tekijänoikeussuojattuja teoksia ilman lupaa tai maksua.

Tekoälyn koulutustaktiikat jatkavat tarkastelun kohteena olemista valvonnan puutteen vuoksi. On yleistä, että nykyaikaiset kirjoittajat ammentavat inspiraatiota ja jopa lainaavat elementtejä aikaisemmista tarinoista. Vaikka tämä käytäntö on osa kirjoittamisen evoluutiota, on tilanteita, jolloin kirjailijan teokset ja tyyli kopioidaan ilman suostumusta.

Kun tällainen tilanne tapahtuu, nykyaikaiset tekijänoikeuslainsäädännöt antavat alkuperäiselle sisällöntuottajalle mahdollisuuden saada menetyksensä takaisin. Sitä ei kuitenkaan voida sanoa kasvavasta määrästä tekoälyjärjestelmiä, joiden on havaittu käyttäneen laittomasti hankittuja teoksia mallien kehittämiseen. Nyt ala kohtaa risteyskohdan koulutustaktiikoiden ja niiden, jotka ovat kokeneet menetyksiä, kohtelun suhteen. Tässä on, mitä sinun tulee tietää.

Kyseenalaiset tekoälyn koulutustaktiikat

Monta käräjätapausta väittävät nyt, että OpenAI ja META (META ) ovat tarkoituksellisesti etsineet kiertoteitä kirjastoaineiston hankkimiseksi mallikoulutustaan varten. Oikeusjutun kantajat väittävät, että yritys tiesi ja ei välittänyt siitä, että se mahdollisesti varasti miljoonia tekijöiltä ilman korvausta tai edes mainintaa.

Tällaiset väitteet eivät ole suuri yllätys monille, jotka uskovat tekoälykilpailun johtaneen perusasenteeseen tekijänoikeuslakien laiminlyömiseen. Tämän vuoksi kirjailijat jatkavat vastustustaan tekoälykehittäjiä kohtaan, vaativat enemmän läpinäkyvyyttä siitä, miten dataa hankitaan ja prosessoidaan näissä järjestelmissä.

Vaikka selkeitä polkuja ei ole vielä julkistettu, todisteet alkavat kasaantua tekoälyyritysten vastusteen. Nämä todisteet voivat johtaa laajoihin muutoksiin tekoälykehittäjien käyttämissä koulutustaktiikoissa tulevaisuudessa.

Yritysten käyttämät koulutustaktiikat mallien luomiseksi

Tekoälyjärjestelmän kouluttaminen on monimutkainen prosessi, joka voi sisältää valtavan määrän tietojen keräämistä ja käsittelyä eri lähteistä. Nämä tiedot ovat ne, joihin tekoäly viittaa yrittäessään vastata kysymyksiin tai ratkaista uusia tilanteita. Tästä syystä suurin osa tekoälyjärjestelmistä suoriutuu paremmin, kun niillä on enemmän viitetietoa.

Tekoälyn luominen

Ensisijainen tapa luoda tekoälymalli sisältää tiedonkeruun. Aiemmin tiedonkeruu oli aikaa vievä prosessi, joka vaati insinöörejä etsimään jo olemassa olevia tietokantoja sen sijaan, että rakennettaisiin alusta alkaen. Esimerkiksi terveydenhuollon tarjoajat voivat kehittää tekoälyn, joka hyödyntää kansallisia terveysstatistiikkoja tarjotakseen relevantimpia lääketieteellisiä vastauksia.

Sen jälkeen kehittäjät päättävät, mitä algoritmia käyttää. Päävaihtoehdot ovat valvottu oppiminen, valvomaton, puolivalvottu, vahvistusoppiminen, lineaarinen regressio, syväoppiminen, satunnaismetsä, naiivi Bayes ja neuroverkot. Jokainen näistä algoritmeista tarjoaa omat etunsa ja haittansa, jotka tekevät niistä paremmin soveltuvia tiettyihin tehtäviin.

Lopuksi alkaa iteratiivinen koulutusprosessi. Tässä vaiheessa mallia testataan ja arvioidaan tarkkuuden ja suorituskyvyn perusteella. Tämä vaihe mahdollistaa insinööreille mallin hienosäädön ja validoinnin, mikä parantaa sen kykyjä. Tämä vaihe myös auttaa varmistamaan, että malli jatkaa oppimista koulutustiedosta sen sijaan, että se vain muuttaisi sen ulkoa.

Source - Uptech.team

Lähde – Uptech.team

Nykyiset tekoälyn koulutustaktiikat ovat kalliita

Tekoälymallin koulutusprosessi on aikaa vievä ja kallis, ja se voidaan jakaa kahteen pääkategoriaan: koulutus ja suoritus. Koulutus viittaa mallin luomisen kertaluonteiseen kustannukseen. Esimerkiksi ChatGPT käytti noin 100 miljoonaa dollaria 4o-mallinsa kouluttamiseen, yrityksen toimitusjohtajan Sam Altmanin mukaan.

Huomionarvoista on, että nämä kustannukset ylittävät aiempien mallien kulut. Esimerkiksi ChatGPT-3:n kouluttaminen maksoi noin 4 miljoonaa dollaria. Koulutuskustannusten nousu johtuu suoraan suuremmista laskentavaatimuksista. Uusimmat mallit toimivat uusimmilla NVIDIA (NVDA ) -siruilla, mikä lisää niiden kustannuksia.

Lisäksi tekoäly on nostanut pilvilaskennan hintoja. Suurin osa tekoälysovelluksista ei toimi suoraan käyttäjien tietokoneilla. Sen sijaan ne luottavat huippuluokan datakeskuksiin ja pilvilaskenta-algoritmeihin tukemaan massiivisia laskentavaatimuksia. Kaikki nämä tekijät ovat tehneet tekoälyn ohjelmoinnista kallista.

Tekoälymarkkinat

Viimeaikainen nousu tekoälyn koulutusmarkkinapaikkojen määrässä osoittaa, että alalla on nyt enemmän kehitystä, jonka tavoitteena on säästää kustannuksissa. Tekoälymarkkinat mahdollistavat kehittäjille, sisällöntuottajille ja tekoälyintegraatiota hakeville tahoille kohtaamisen. Kehittäjät voivat löytää valmiita malleja, joita he voivat parantaa tai hienosäätää omiin tarpeisiinsa, säästäen näin aikaa ja rahaa.

Suoritusajan kustannus

Tekoälyjärjestelmien suoritus- tai inferenssikustannukset ovat toinen kuluerä, jonka kehittäjien on otettava huomioon. Inferenssikustannus viittaa siihen, kuinka paljon rahaa jokainen vuorovaikutus tekoälyn kanssa maksaa. Monien nykyisten tekoälyjärjestelmien ajaminen on kalliimpaa, koska järjestelmän on käytettävä koko mallinsa dataa tarjotakseen tarkka ja hyödyllinen vastaus. Tämä vaihe tarkoittaa, että tekoäly tarvitsee paljon laskentatehoa, usein korkean suorituskyvyn varustetuista koneista. Tämä vaatimus lisää merkittävästi järjestelmän kustannuksia.

Ovatko nykypäivän tekoälyn koulutustaktiikat eettisiä?

Kun tarkastelet nykyisten suurten tekoälyyritysten käyttämää koulutustaktiikkaa ja -strategioita, on helppo nähdä, että alalla on eettisesti ja moraalisesti haastavia näkökulmia. Kyllä, jotta voidaan luoda parhaat tekoälyjärjestelmät, kehittäjien on tarjottava arvokasta ja tarkkaa dataa mallille. Kuitenkin jotkut kehittäjät väittävät, että kaikkien käytettävien tietojen tekijänoikeuslupien hankkimisen kustannus olisi astronominen, mikä käytännössä tukahduttaisi innovaatiot.

Kansainvälinen tekijänoikeuslainsäädäntö suojaa tekijöitä luvattomalta teosten, tyylin ja ilmeen käytöltä. Tekoälyjärjestelmät näyttävät löytäneen oikeudellisen kiilan, jonka avulla ne voivat hyödyntää lähes tarkkoja kopioita ihmisistä, paikoista, tiedoista ja tarinoista, ilman merkittävää oikeudellista vastustusta toistaiseksi.

Kuitenkin sisällöntuottajien keskuudessa on kasvava tunne, että nämä järjestelmät ovat hankkineet heidän teoksensa laittomasti ja käyttäneet niitä kouluttaakseen tekoälymalleja, jotka kopioivat muodon, sävyn ja tyylin. Luvattoman tekijänoikeudellisesti suojattujen kirjojen käyttöä OpenAI:n koulutusmalleissa on tuotu esiin viimeaikaisissa paljastuksissa.

OpenAI:n oikeusjuttu

OpenAI:n käräjäjuttussä kantajat väittävät, että kehittäjät tiesivät käyttävänsä varjokirjastoja välttääkseen maksamasta suurista kirjakokoelmista. Varjokirjastot ovat verkkopalveluita, jotka tarjoavat tekijänoikeudellisesti suojattujen teosten ilmaisen pääsyn. OpenAI:n oikeusjutussa mainitut varjokirjastot ovat LibGen, Bok, Sci-Hub ja Bibliotik.

Oikeusjuttu pyrkii todistamaan, että OpenAI ja META tiesivät kiertävänsä tekijänoikeuslakeja. Se osoittaa, miten yritykset käyttivät varjokirjastoja ja muita ilmaisia lähteitä merkittävästi alentaakseen koulutuskustannuksiaan samalla ryöstäen tekijöiltä heidän ansaitsemansa maksut.

Vastauksena väitteisiin META aluksi käyttäytyi ikään kuin se ei olisi tietoinen tällaisista toimista. Kuitenkin, kun sähköpostit nousivat esiin, joiden uskotaan paljastavan yrityksen täyden ymmärryksen toimistaan, ja selittävät, että se torrenttasi +81,7 teratavua dataa varjokirjastoista, mikä vastaa miljoonia teoksia.

META:n sensuroimattomat sähköpostit

Ironisesti sisäiset sähköpostit paljastivat, että yritys oli hyvin tietoinen päätöksensä kiistanalaisesta luonteesta käyttää varjokirjastoja. Sensuroimattomissa sähköposteissa huolestunut insinööri Nikolay Bashlykov pohtii projektin moraalisuutta, ennen kuin hän vitsailee suunnitelman laillisuudesta.

Myöhemmissä sähköposteissa työntekijä kertoi olevansa huolissaan META:n IP-osoitteiden käytöstä torrentoitavan sisällön lataamiseen. Tunnistaen, että tämä voisi olla ongelma, META ohjeisti insinöörejä lataamaan dataa ulkopuolisilta palvelimilta, jotka eivät ole yhteydessä Facebookiin tai META:han.

Johtoryhmän käskyt

Kun alun perin kysyttiin META:n roolista torrentoinnissa, Mark Zuckerberg väitti, ettei hänellä ole tietoa prosessista. Sensuroimattomat sähköpostit osoittivat toisin. Sähköpostien uskotaan näyttävän, että päätös käyttää ei-FB-palvelimia tehtiin vasta Zuckerbergin suoran hyväksynnän jälkeen.

Käyttävätkö tekoälykehittäjät varastettua sisältöä?

Kun otetaan huomioon esitetyt todisteet ja tekoälyn kyvykkyyden äkillinen nousu, on ilmeistä, että monet tekoälyjärjestelmät ovat turvautuneet varjokirjastoihin ja muihin keinoihin rakentaakseen tehokkaampia koulutusmalleja. Nämä tietoaineistot sisältävät tekijänoikeudellisesti suojattuja materiaaleja, joihin ei ole saatu tekijöiden tai kustantajien suostumusta tekoälymallien kouluttamiseen.

Onko se laitonta?

Vaikka on yhä vaikeampaa kiistää laittoman materiaalin käyttöä nykyisten kehittyneiden tekoälymallien kouluttamisessa, käytännön laillisuus on edelleen kyseenalainen. Yksikään tekoälyyritys ei ole vielä joutunut tekijänoikeusloukkauslain piiriin. Lisäksi tekoälykilpailu on täydessä käynnissä, ja monet poliitikot saattavat nähdä paikallisten tekoälyjärjestelmien rajoittamisen datan käyttöön innovaation esteenä. Tästä syystä he eivät välttämättä ryhdy helpottamaan tekoälyn tekijänoikeusloukkausten torjuntaa perinteisten varkauksien tavoin.

Käräjäjutut tulvivat

Sääntelijät eivät ehkä ole valmiita asettamaan painetta tekoälyyrityksiin, mutta sisällöntuottajat ovat saaneet tarpeekseen. Käräjäjutut jatkavat tulvimistaan pettyneiltä kirjailijoilta, jotka väittävät, että heidän sisältönsä on hankittu laittomasti, jaettu ja kopioitu ilman mitään korvausta.

Äskettäin Joseph Saveri -asianajotoimisto on nostanut Yhdysvaltain liittovaltion ryhmäkäräjäjutun suoraan tästä asiasta. Käsittelyssä oleva oikeusjuttu, joka on nostettu Sarah Silvermanin ja muiden kirjailijoiden puolesta OpenAI:ta ja META:a vastaan, hakee korvauksia menetyksistä, jotka johtuvat tuotteen kyvystä kopioida niiden formaattia ja tyyliä.

Ryhmäkäräjäjuttu käräjäjuttu väittää useita Digital Millennium Copyright Act -rikkomuksia, rikollista huolimattomuutta ja epäreilun kilpailun lakeja. Oikeusjutun tavoitteena on saada pysyvä kielto näihin koulutustaktiikoihin, kunnes tekijöille voidaan tarjota oikeudenmukainen korvaus- ja suojastrategia.

Onko DeepSeek koulutettu ChatGPT:n avulla?

Ironisesti ChatGPT on väittänyt olevansa älyllisen varkauden uhri kiinalaisen tekoälystartupin, DeepSeek, aiheuttaman markkinahäiriön jälkeen. DeepSeek aiheutti valtavan kiinnostuksen, kun yritys paljasti vaikuttavan suorituskykynsä, alhaiset kustannuksensa ja kehittyneet ominaisuutensa julkisesti viime kuussa.

OpenAI:n kehittäjät syyttivät DeepSeekiä ChatGPT:n datan käyttämisestä mallinsa ohjelmoimiseen, mikä mahdollisti sen luoda malli, joka ylittää kilpailijat ja maksaa paljon vähemmän. Vertailun vuoksi DeepSeek saavutti suorituskyvyn, joka on tasavertainen ChatGPT:n kanssa, kustannuksella 6 miljoonaa dollaria verrattuna +100 miljoonaa dollaria, jonka ChatGPT käytti.

Lisäksi DeepSeek pystyy hyödyntämään huomattavasti vähemmän laskentatehoa ainutlaatuisen rakenteensa ansiosta. DeepSeekin inferenssikustannukset ovat paljon pienemmät kuin ChatGPT:n, koska se käyttää useita erikoistuneita malleja yhden massiivisen sijaan.

Tämän vuoksi DeepSeekin tarvitsee vain aktivoida malli viitaten kysymykseen, mikä mahdollistaa paljon edullisempien ja tehokkaampien NVIDIA-sirujen käytön. Erityisesti DeepSeek käyttää 1/50‑osaa uusimman Claude 3.5 Sonnet -mallin ajokustannuksista, mikä tekee siitä kustannustehokkaamman ratkaisun yrityksille pitkällä aikavälillä.

Se lainaa

Mielenkiintoista on, että DeepSeek ei kiellä ChatGPT:n käyttöä “ajatteluskriptien” kehittämisessä. Se kuvaa prosessin alkuperäisessä DeepSeekin valkoisessa paperissa. Insinöörit kokivat, että tämä lähestymistapa antaisi DeepSeekille tarkempaa tietoa, mikä nopeutti sen destillaatioprosessia.

Lisäksi se varmisti, että kilpailijoiden tekoälymallien ohjelmointiin käytettyä dataa ei käytetty DeepSeekin ohjelmointiin. Tuloksena on tehokkaampi järjestelmä, joka ylittää edeltäjänsä ja jonka käyttöön liittyvät kustannukset ovat vain murto-osa. Tietenkin monet väittävät, että ChatGPT:n kustannukset tulisi sisällyttää DeepSeekin budjettiin, jos ne hyödynsivät järjestelmää omien mallien luomiseen.

DeepSeekin identiteettikriisi

Viimeisessä artikkelissa tekoälytutkija meni lähteelle tarkistaakseen, onko DeepSeek lainannut paljon ChatGPT:ltä. Hän aloitti kysymällä LLM:ltä, pitäisikö DeepSeek olla älykkäämpi kuin Gemini, Googlen kilpailija. Ironisesti LLM vastasi, että se ajatteli “se on ChatGPT”. Tämä paljastus nähtiin monien toimesta todisteena siitä, että DeepSeek on kerännyt massiivisen määrän dataa ChatGPT:ltä.

Pitäisikö sisällöntuottajille maksaa korvaus tekoälyn käytöstä?

Sisällöntuottajien huoli markkinoilla kasvaa. Kun tekoälyjärjestelmät kehittyvät, ne varmasti kuluttavat yhä enemmän tekijänoikeudellisesti suojattua materiaalia. Aikaisemmin insinöörit ovat nähneet yritysten kytkevän tekijänoikeushallinnan tiedot pois riskin vähentämiseksi. Kuitenkin suunta on kääntymässä.

Heinäkuussa 2023 yli 8000 kirjailijaa allekirjoitti kirjeen, joka osoitettiin META:n toimitusjohtaja Mark Zuckerbergille, OpenAI:n toimitusjohtaja Sam Altmanille, Alphabetin toimitusjohtaja Sundar Pichaille, Stability AI:n toimitusjohtaja Emad Mostaque’lle, IBM:n toimitusjohtaja Arvind Krishnalle ja Microsoftin toimitusjohtaja Satya Nadellalle. Kirjeessä todetaan, että tekoäly “jäljittelee ja toistaa kieltä, tarinoita, tyyliä ja ideoita”. Se vaatii korvausta ja tunnustusta.

Writers Guild of America ja Screen Actors Guild ovat myös puhuneet ääneen AI-alan teosten käytöstä. Ne pyrkivät takaamaan tiettyjä oikeuksia ja korvauksia kirjailijoille aina, kun heidän teoksiaan käytetään tekoälymallien luomiseen.

Koulutustaktiikoiden vaihtoehdot nousevat esiin

Tunnistaen nykyisen asetelman rajoitukset ja sen puutteen todellisesta laillisesta etenemisestä, BookCorpus pyrki tarjoamaan paremman ratkaisun. Yritys perustettiin vuonna 2015 erityisesti tukemaan tekoälytutkijoita LLM-mallien kouluttamisessa. Näin ollen se sisältää tuhansia teoksia ja malleja, jotka on suunniteltu parantamaan suorituskykyä ylittämättä eettisiä rajoja.

Jo useat tekoälyyn keskittyvät palveluntarjoajat ovat tulossa markkinoille. Nämä yritykset yhdistävät arvokkaan datan, mallien ja paljon muuta. Ne on räätälöity vastaamaan tekoälyn laskentavaatimuksia ja usein ne tulevat mukana jonkinlaisen pilvilaskentavaihtoehdon kanssa, mikä edelleen vähentää kehityskustannuksia.

Yritykset, jotka johtavat AI LLM -vallankumousta

LLM:ien nousu on tehnyt vuorovaikutuksen näiden järjestelmien kanssa helpommaksi kuin koskaan. Yksinkertaisesta chat-kyselystä voit tehdä syvällistä tutkimusta, luoda kuvia ja tarinoita, ja paljon muuta. Tästä syystä LLM:t nähdään yhtenä suurimmista läpimurroista tietokoneiden vuorovaikutusteknologiassa koko elinaikanaan. Tässä on yksi yritys, joka jatkaa innovaation ajamista LLM-markkinalla.

Alphabet Inc

Alphabet Inc. (GOOG ) on Googlen ja sen monien tytäryhtiöiden emoyhtiö. Se on yksi tunnistetuimmista ja menestyneimmistä yrityksistä tekoälysektorilla. Mielenkiintoista on, että insinöörit valitsevat yrityksen toisen mallin, Google DeepMindin, luodakseen Googlen Gemini LLM:n. Gemini on kehittynyt LLM, joka kääntää, ymmärtää sisältöä, vastaa kysymyksiin ja paljon muuta.

Huomionarvoista on, että Google DeepMind on tehnyt kovasti töitä luodakseen LLM:itä ja uusia ominaisuuksia yritykselle. Esimerkiksi uusi SELF-DISCOVER-ominaisuus luo tehtäväkohtaisen arkkitehtuurin mallien sisällä, mikä vähentää kokonaisaikaa, joka tarvitaan tarkkojen vastausten antamiseen.

GOOG Hintakaavio

Kun otetaan huomioon Googlen markkinajohto, massiivinen datan käyttö ja jatkuva laajentuminen tarkoitukseen rakennettuihin malleihin, GOOG on fiksu osake, jonka kannattaa pitää. Yritys on yksi maailman parhaista tekoälypalveluntarjoajista ja sillä on verkosto ja taloudelliset resurssit integroida teknologiaansa ja laajentaa sitä tehokkaasti yleisölle.

Miten koulutustaktiikat muuttuvat tulevaisuudessa

Voit odottaa, että tekoälyn koulutustaktiikat perustuvat tarkemmin kohdennettuun tekoälyyn datan hankinnassa, kun ala laajenee. DeepSeek osoitti, että sen lähestymistapa laski merkittävästi kustannuksia. Lisäksi on yhä vaikeampaa väittää tekijänoikeusloukkauksesta, jos yritys käyttää toisen tekoälyn luomaa dataa suoraan sen sijaan, että käyttäisi alkuperäistä dataa.

Kaikki nämä tekijät ja hallitusten kasvava tarve johtaa tekoälykilpailua ovat johtaneet sisällöntuottajat erittäin vaaralliseen tilanteeseen. Toivottavasti tulevina kuukausina tekoälykehittäjät luovat tehokkaampia koulutustaktiikoita, jotka kunnioittavat ja korvaavat ne, joiden dataa he hyödyntävät menestyksen saavuttamiseksi.

Tutustu muihin hienoihin tekoälyprojekteihin Nyt.

David Hamilton on täysipäiväinen journalisti ja pitkäaikainen bitcoinist. Hän on erikoistunut kirjoittamaan artikkeleita blockchainista. Hänen artikkeleitaan on julkaistu useissa bitcoin-julkaisuissa, mukaan lukien Bitcoinlightning.com