„Џаред Каплан предупредува: Вештачката интелигенција може да дизајнира свои наследници“ — што значи тоа за иднината на човештвото?

Што изјави Џаред Каплан

Коосновачот на фирмата Anthropic, Џаред Каплан, неодамна изнесе загрижувачка визија — според него, напредните системи за вештачка интелигенција (ВИ) еден ден би можеле сами да создадат своја „следна генерација“ на ВИ, без човечка инволвираност.

Тоа значи дека наместо луѓето да ја дизајнираат новата верзија на алгоритми, системите на ВИ би станале доволно моќни и автономни за самите да генерираат нови, побрзи, понапредни ВИ-модели — потенцијално далеку над човечката моќ за контрола.

Зошто Каплан смета дека тоа е „пресвртница“

• Ако една ВИ успее да креира помоќна ВИ — тоа би можело да резултира со таканаречена „експлозија на интелигенција“, каде што развојот ќе биде многу забрзан и тешко контролабилен.
• Тој предупредува дека постојните безбедносни мерки, верификаторите и контролните рамки можеби повеќе нема да бидат доволни ако ВИ-системите ги создаваат нивните наследници — што носи ризик од губење на човековата контрола.
• Покрај техничките, има и етички и социјални дилеми: кој ќе биде одговорен, кои вредности ќе се инкорпорираат, како ќе се обезбеди транспарентност и каква иднина ни претстои ако системите „одлучуваат“ без човечка интервенција.

Нашиот заклучок

Доколку една ваква визија се оствари — светот ќе влезе во нова ера на технологија и моќ. Затоа е важно од сега да се разговара, да се креираат регулативи, да се гарантираат безбедност и транспарентност, и пред сè — да се зачува човековата контрола над технологијата.

Ова не е само технолошки предизвик — туку морална, етичка и цивилизациска одлука што ја однесува иднината на човештвото.