Creatorul ChatGPT ia masuri pentru ca Inteligenta Artificiala sa nu devina o amenintare: „Vom impinge modelele la limitele lor”

Pericolele potentiale ale inteligentei artificiale generative reprezinta o preocupare pentru public, politicieni si cercetatori in domeniul IA, relateaza Euronews.

OpenAI si-a extins procesul intern de siguranta pentru a aborda amenintarea inteligentei artificiale (IA) daunatoare, in timp ce guvernele incearca sa ia masuri drastice pentru a tine sub control aceasta tehnologie.

Start-up-ul, care se mandreste cu chatbotul de mare succes ChatGPT si care este sustinut de Microsoft, a declarat ca va infiinta o echipa dedicata pentru a supraveghea activitatea tehnica si o structura operationala, care permite, de asemenea, consiliului de administratie sa revina asupra deciziilor de siguranta.

„Cream un grup consultativ de siguranta interfunctional care sa analizeze toate rapoartele si sa le trimita concomitent conducerii si consiliului de administratie. In timp ce conducerea este cea care ia deciziile, consiliul de administratie detine dreptul de a inversa deciziile”, a declarat luni compania pe site-ul sau.

Compania si-a actualizat „cadrul de pregatire”, afirmand ca va investi in evaluari diligente ale capacitatilor si in previziuni pentru a detecta mai bine riscurile emergente. De asemenea, a declarat ca va actualiza in mod continuu „fisele de evaluare” pentru modelele lor.

„Vom evalua toate modelele noastre, inclusiv la fiecare crestere efectiva de 2 ori a puterii de calcul in timpul curselor de antrenament. Vom impinge modelele la limitele lor”, a declarat OpenAI.

Pericolele potentiale ale tehnologiei reprezinta o preocupare pentru public, politicieni si cercetatori in domeniul IA, deoarece IA generativa poate raspandi dezinformari.