Суперинтелигентността идва. Трябва ли да я допуснем?

Компаниите за изкуствен интелект говорят за свръхинтелигентния ИИ така, сякаш той е неизбежен, но скорошни инциденти, свързани с безопасността, като пробива в Hugging Face на OpenAI, демонстрират потенциалните опасности от внедряването на ИИ системи, които са по-способни от хората. И така, какво се случва, когато не можем надеждно да контролираме действията на тези системи?

В този епизод на подкаста Equity на TechCrunch към Rebecca Bellan се присъединява Connor Leahy, изследовател и предприемач в областта на ИИ, а сега и изпълнителен директор за САЩ на нестопанската организация ControlAI, която настоява за много по-радикален подход към безопасността на ИИ: компаниите изобщо да спрат разработването на свръхинтелигентност. Leahy обяснява защо смята, че рисковете са станали твърде големи, за да бъдат управлявани само чрез съгласуване и ограничаване, както и как нещо, което преди шест месеца е звучало пресилено, сега получава подкрепа от вълна ново законодателство.

Абонирайте се за Equity в YouTube, Apple Podcasts, Overcast, Spotify и всички платформи за подкасти. Можете също така да следвате Equity в X и Threads на @EquityPod.