miniatyr|Panorama av gammelt slott, bilde generert av Midjourney v4 ved hjelp av ledeteksten: slott på en høyde, skog, England, kveld, solnedgang, ultrarealistisk 8k --ar 2:1 --v 4 miniatyr|Kamp i en middelalder-landsby laget med generativ kunstig intelligens, Midjourney Generativ kunstig intelligens (også kalt generativ KI, generativ AI, genAI eller GAI, delvis fra engelsk, artificial intelligence) er bruk av kunstig intelligens til å generere tekst, bilder, videoer eller annen data, ofte som resultat av brukerangitte kommandoer (prompts). Generative KI-modeller lærer mønstrene og strukturen til inndataen – også kalt treningsdata – som genererer ny informasjon med lignende karakteristika.

Forbedringer i transformeringsbaserte, dype nevrale nettverk førte til en vekst i generative KI-systemer tidlig i 2020-årene. Disse inkluderer chatboter som ChatGPT, Copilot, Gemini og LLaMa, tekst-til-bildegenererende systemer som Stable Diffusion, Midjourney og DALL-E og tekst-til-videomodeller som Sora. Selskaper som OpenAI, Anthropic, Microsoft, Google og Baidu, samt flere mindre firmaer, har utviklet modeller for generativ kunstig intelligens.

Generativ kunstig intelligens blir brukt i flere industrier, inkludert programvareutvikling, helsevesen, finans, underholdning, kundestøtte, salg og markedsføring, kunst, skriving, mote og produktdesign. Det har oppstått bekymringer på grunn av potensielt misbruk av generativ KI som datakriminalitet, bruken av falske nyheter og deepfakes til å lure eller manipulere andre og masseerstattelsen av jobber for mennesker.

Lover og regulering I USA har en gruppe selskaper, inkludert OpenAI, Alphabet og Meta, signert en frivillig avtale med Biden-administrasjonen i juli 2023 om å vannmerke KI-generert innhold. I oktober 2023 kom presidentordre 14110 (Executive Order 14110), som anvendte Defense Production Act-loven til å kreve at alle amerikanske selskap rapporterer informasjon til de føderale myndighetene når en trener visse KI-modeller med høy påvirkning.

I Den europeiske union inkluderer den foreslåtte forordningen om kunstig intelligens krav om å oppgi opphavsrettsbeskyttet materiale som brukes til å trene generative KI-systemer og å markere ethvert relevant generert resultat som generert av kunstig intelligens.

I Kina reguleres all generativ kunstig intelligens som vises til offentligheten av Statens informasjonskontor for Internetts «Midlertidig tiltak for administrasjon av generativ kunstig intelligens» (forenklet kinesisk: 生成式人工智能服务管理暂行办法). Det inkluderer krav om å vannmerke genererte bilder eller videoer, reguleringer angående treningsdata og etikettkvalitet, restriksjoner rundt samling av personlig data og en retningslinje om at generativ KI må «følge sosialistiske kjerneverdier».

Opphavsrett

Bruk av opphavsrettsbeskyttet materiale til å trene modeller Generative KI-systemer som ChatGPT og Midjourney er trent på store, offentlig tilgjengelige datasett som inneholder opphavsrettsbeskyttede verk. KI-utviklere har argumentert for at slik trening er beskyttet som fair use, mens opphavsrettsholdere har argumentert at det går utover deres rettigheter.

Forkjempere for fair use-trening har argumentert at det er et transformerende bruk som ikke involverer å skape kopier av beskyttede verk tilgjengelige til allmennheten. Kritikere har argumentert at bildegeneratorer som Midjourney kan skape nesten identiske kopier av noen beskyttede bilder og at generative KI-programmer konkurrerer med innholdet de trenes på.

Per 2024 er det flere pågående rettssaker relatert til bruken av opphavsrettsbeskyttet materiale som treningsdata. Getty Images har saksøkt Stability AI på grunn av bruken av deres bilder for å trene Stable diffusion. Både Authors Guild og The New York Times har saksøkt Microsoft og OpenAI over bruken av deres verk i trening av ChatGPT.

Opphavsrett til KI-generert materiale Det er stilt spørsmål om hvorvidt KI-genererte verk kan opphavsrettsbeskyttes. I USA har United States Copyright Office (USCO) bestemt at verk skapt av kunstig intelligens uten noen menneskelig tilvirkning ikke kan opphavsrettsbeskyttes, ettersom de ikke er skapt av et menneske.

Bekymringer Utviklingen av generativ KI har skapt bekymringer fra myndigheter, bedrifter og individer, noe som har resultert i protester, rettslige hendelser, oppfordringer til å sette KI-eksperimentering på pause og handlinger fra flere myndigheter. I en orientering av FNs sikkerhetsråd i juli 2023, sa generalsekretær António Guterres at «generativ KI har et enormt potensiale for godt og ondt i stor skala», at KI kan «framskynde internasjonal utvikling» og bidra 10–15 trillioner amerikanske dollar til den globale økonomien ved 2030, men at ondsinnet bruk «kan forårsake forferdelige nivåer av død og ødeleggelse, utbredte traumer og dyp, psykologisk skade i en ufattelig skala».

Tap av arbeidsplasser miniatyr|Selv om det ikke var et hovedfokus ved streiken til Writers Guild of America i 2023, var en av forespørslene «regulering rundt bruken av (generativ) KI». Fra de tidligere stundene i utviklingen av kunstig intelligens, har det vært argumentert av Joseph Weizenbaum og andre om oppgavene som kan gjøres av datamaskiner faktisk bør gjøres av dem, grunnet forskjellen mellom datamaskiner og mennesker, samt mellom kvantitative kalkulasjoner og kvalitative, verdibaserte bestemmelser. I april 2023 ble det rapportert at KI-generering av bildet resulterte i at 70 % av arbeidsplasser for videospillillustratører i Kina gikk tapt. I juli 2023 bidro utviklingen av generativ KI til arbeidskonfliktene i Hollywood. Fran Drescher, presidenten av Screen Actors Guild, erklærte at «kunstig intelligens utgjør en eksistensiell trussel for kreative yrker» i løpet av SAG-AFTRA-streiken i 2023. Stemmegenererende KI har blitt ansett som en potensiell utfordring til stemmeskuespillere.

Skjevhet i forhold til etnisitet og kjønn Generative KI-modeller kan reflektere og forsterke kulturell skjevhet som framkommer i underliggende data. For eksempel, så kan en språkmodell anta at doktorer og dommere er menn, mens sekretærer og sykepleiere er kvinner, om disse idéene er vanlige i treningsdataen. I lignende tilfeller kan en bildemodell som kommanderes med «et bilde av en daglig leder» uforholdsmessig generere bilder av hvite, mannlige daglige ledere, om den er trent på et datasett med etnisitetsskjevhet. Det er forsøkt flere metoder for å unngå skjevhet, som ved å skifte inndatakommandoer og omvekting av treningsdata.

Deepfakes Deepfakes (engelsk, et teleskopord fra deep learning, «dyp læring», og fake, «falsk») er KI-genererte filer som tar en person i et eksisterende bilde eller video og erstatte vedkommende med noen andres utseende ved bruk av kunstige nevrale nettverk. Deepfakes har mottatt utbredt oppmerksomhet og bekymringer for pornografiske videoer av kjendiser, hevnporno, falske nyheter, bløffer, helsedesinformasjon og finanssvindel. Innspill fra både industrier og myndigheter om å oppgave og begrense bruken har oppstått som følge av dette.

Logically, et selskap som driver med faktasjekk, fant i juli 2023 at populære generative KI-modeller som Midjourney, DALL-E 2 og Stable Diffusion produserte mulige desinformasjonsbilder når de ble kommandert til å gjøre det, som for eksempel bilder av valgfusk i USA og muslimske kvinner som støtter Bharatiya Janata Party, et hinduistisk nasjonalistisk parti i India.

Misbruk innen journalistikk I januar 2023 skrev Futurism.com angående CNETs bruk av et uoppgitt, internt KI-verktøy for å skrive minst 77 artikler – CNET publiserte korrigeringer av 41 av artiklene etter det kom ut.

Det tyske tidsskriftet Die Aktuelle publiserte i april 2023 et falskt, KI-generert intervju med tidligere racerføreren Michael Schumacher, som ikke hadde opptredt offentlig etter en hjerneskade i 2013. Artikkelen inkluderte to mulige offentliggjøringer om bruk av KI: Forsida av bladet inneholdt linjen «villedende ekte» og intervjuet konkluderte en anerkjennelse på slutten om at det var KI-generert. Sjefsredaktøren ble sparket kort tid etter.

Andre medier som har publisert artikler hvis innhold og/eller byline er bekreftet eller mistenkt for å være skapt av generative KI-modeller – ofte med falsk innholdt, feil og/eller ikke-anrkjennelse av bruk av generativ KI – inkluderer:

NewsBreak Arena Group-eide Sports Illustrated TheStreet Men's Journal B&H Photo Gannett-eide The Columbus Dispatch Reviewed USA Today MSN News Corp G/O Media-eide Gizmodo Jalopnik A.V. Club The Irish Times Red Ventures-eide Bankrate BuzzFeed Newsweek Hoodline Outside Inc.-eide Yoga Journal Backpacker Clean Eating Hollywood Life Us Weekly The Los Angeles Times McClatchy-eide Miami Herald Sacramento Bee Tacoma News Tribune The Rock Hill Herald The Modesto Bee Fort Worth Star-Telegram Merced Sun-Star Ledger-Enquirer The Kansas City Star Raleigh News & Observer Ziff Davis-eide PC Magazine Mashable AskMen Hearst-eide Good Housekeeping IAC Inc.-eide People Parents Food & Wine InStyle Real Simple Travel + Leisure Better Homes & Gardens Southern Living

Futurism bemerket i mai 2024 at innholdshåndteringssystemet fra AdVon Commerce, som tidligere hadde brukt generativ KI til å produsere artikler for mange av de nevnte (lista ovenfor) mediene, viste seg å «ha produsert titusener av artikler for flere enn 150 utgivere.»

Nyhetskringkastere i Kuwait, Hellas, Sør-Korea, India, Kina og Taiwan har presentert nyheter med ankere basert på generative KI-modeller, som skapte beskyttelser angående tap av arbeidsplasser for menneskelige ankere og publikums evne til å stole på nyhetene som historisk har hatt innflytelse fra parasosiale forhold med kringkastere, innholdsskapere og influensere på sosiale medier. Algoritmegenererte ankere har også blitt anvendt av ISIS-allerte.

Mange nedlagte nyhetsnettsteder (The Hairpin, The Frisky, Apple Daily) har undergått cybersquatting, med artikler skapt gjennom generativ KI.

Se også

Kunstig intelligens

Referanser

Eksterne lenker

Kategori:Kunstig intelligens Kategori:Maskinlæring