Stop umělé inteligenci, lidé ji nezvládají. Apple se vyděsil, co tvořili, tak radši ambiciózní projekt zařízl

Technologie, jež měla lidem usnadnit práci a otevřít nové možnosti v oblasti kreativity, narazila na své limity. Nástroje pro generování extrémně realistických videí totiž nevyužijí lidé vždycky zodpovědně, jak jsme v redakci Mobify zaznamenali. Přesně proto byl ambiciózní projekt Sora na tvorbu AI videí zničehonic ukončen. Důvodem nebyly jen finance, ale hlavně o obsah, který začal vznikat.

Sora vzbudila po svém uvedení u lidí obrovský rozruch

Projekt Sora byl původně představený jako kreativní nástroj, který dokáže z jednoduchého textového zadání vytvořit naprosto realistické video. Stačilo mu zadat pár vět a během chvilky vznikl klip vypadající jako natočený profi kamerou. Za vývojem stála společnost OpenAI, která chtěla posunout hranice umělé inteligence ještě dál. Technologie měla sloužit filmařům, tvůrcům i běžným uživatelům.

Ve skutečnosti se původně dobrá myšlenka začala pomalu hroutit. Projekt generoval zhruba 1,4 milionu dolarů (tedy asi 32 milionů korun), ale ve srovnání s jinými produkty firmy šlo o zanedbatelnou částku. Třeba hlavní platformy společnosti vydělávají mnohonásobně víc. Slušná částka, ale pro Apple nijak zlomová, uvedl PCMag.

Problém nebyl jen v penězích, ale hlavně ve tvořeném obsahu

Finance však byly jen částí toho všeho. Mnohem větší problém představoval obsah, jaký lidé začali se Sorou tvořit. Objevovala se videa s násilím, smrtí nebo manipulovanými scénami působícími děsivě reálně. V některých případech šlo o tzv. deepfakes, tedy falešná videa, která mohou někoho zobrazovat ve smyšlených situacích. Ani nemluvíme o zneužití známých tváří, strachu či podvodech.

Velkou pozornost vzbudila i spolupráce s The Walt Disney Company, která byla naceněna až na 1 miliardu dolarů (to odpovídá asi 23 miliardám korun). Uživatelé mohli tvořit videa s ikonickými postavami, což otevřelo nové možnosti, jenomže i právní otázky. Nakonec tedy partnerství padlo. Firmy si uvědomily, že kontrola nad tím, jak lidé technologii používají, je omezená. A to představuje obří riziko nejen pro značky, ale i pro lidi, popsalo BBC.

Ukončení projektu může být nakonec vlastně dobrou zprávou

Zrušení projektu možná může na první dobrou působit jako krok zpátky. Ve skutečnosti ale může jít o zodpovědné rozhodnutí. Musíme konstatovat, že je to nebezpečné. Děti a mladší uživatelé často nedokážou rozeznat, co je skutečné a co vytvořené umělou inteligencí. To vede k šíření dezinformací, strachu, nebo dokonce k psychickým problémům.

Společnost se chce nyní zaměřit na jiné oblasti, kupříkladu robotiku nebo tzv. agentní AI, což jsou systémy, které dokážou samostatně plnit úkoly v reálném světě. Místo tvorby obsahu pro zábavu se firmy evidentně začínají soustředit na praktické využití technologií. Možná by to mohla být cesta, jak umělou inteligenci udržet pod vlastní kontrolou.

Zdroj: Mobify.cz - Váš párťák ve světě elektroniky

Autor: Lukáš Altman