Wetenschap/Technologie en Politiek | Experts waarschuwen – ze eisen dat de ontwikkeling van sterke kunstmatige intelligentie een halt wordt toegeroepen

De oproep komt naar buiten brief dat is woensdag bekend gemaakt. Tot op heden is het ondertekend door meer dan duizend experts, academici en bedrijfsleiders. Onder hen zijn Apple-medeoprichter Steve Wozniak en Tesla-CEO Elon Musk.

Ze vragen om een ​​pauze van zes maanden in alle ontwikkeling van AI-systemen die krachtiger zijn dan GPT-4, het nieuwste taalmodel van OpenAI.

Experts menen dat de pauze nodig is om richtlijnen te ontwikkelen die ervoor kunnen zorgen dat AI-systemen geen risico vormen. Als de AI-bedrijven zelf de ontwikkeling niet opschorten, vragen ze de autoriteiten van de landen van de wereld om in te grijpen.

Desastreuze gevolgen

– Communautaire druk om andere technologieën die mogelijk catastrofale gevolgen hebben voor de samenleving, te “pauzeren”. Het bericht zegt dat we hetzelfde hier kunnen doen.

Experts zijn van mening dat AI-systemen een punt hebben bereikt waarop ze op het punt staan ​​algemene taken op dezelfde manier op te lossen als mensen. In de brief staat dat systemen met intelligentie op menselijk niveau een groot gevaar kunnen vormen voor de samenleving en de mensheid.

– Moeten we onze mediakanalen door machines laten overspoelen met propaganda en leugens? Moeten we alle banen automatiseren, zelfs de lonende? Vraag het de experts.

Ze wijzen ook op het gevaar “de controle over onze beschaving te verliezen” en systemen te ontwikkelen die uiteindelijk slimmer kunnen worden dan mensen en “onze plaats innemen”.

Veel van degenen die de brief hebben ondertekend, hebben zelf met AI gewerkt of zijn geassocieerd met bedrijven die AI-systemen ontwikkelen.

Ze zijn van mening dat de concurrentie tussen AI-labs de afgelopen maanden “uit de hand gelopen” is. Er wordt gezegd dat de strijd gaat over het ontwikkelen van “digitale hersenen” die zelfs makers niet volledig begrijpen.

chatten

De belangstelling voor kunstmatige intelligentie nam sterk toe toen OpenAI vorig jaar november de ChatGPT-taalbot lanceerde. Hij is in staat om teksten te schrijven die verwarrend veel lijken op teksten die door mensen zijn geschreven.

Slechts drie en een halve maand later kwam OpenAI met het verbeterde GPT-4-taalmodel.

Het is de organisatie Future of Life Instituut Wie zit er achter de open brief? De organisatie wil existentiële bedreigingen voor de mensheid als gevolg van kernwapens, klimaatverandering, biotechnologie en kunstmatige intelligentie voorkomen. Het werk wordt grotendeels gefinancierd door een stichting onder leiding van Elon Musk.

Een van de academici die de open brief ondertekende, is professor Gary Marcus van de New York University. Hij gelooft dat bedrijven die kunstmatige intelligentie ontwikkelen, steeds meer van hun werk geheim houden.

– Dit maakt het voor de gemeenschap moeilijk om zich te verdedigen tegen eventuele schade, zei hij.

(© NTB)