ChatGPT-yə belə suallar versəniz gəlib sizi "aparacaqlar"

OpenAI şirkəti süni intellekt istifadəçiləri arasında ekstremizmə meyilləri erkən mərhələdə aşkar edən yeni sistem hazırlayır. Reuters agentliyinin yaydığı məlumata görə, texnologiya riskli şəxsləri xüsusi "deradikallaşdırma" çat-botlarına yönləndirmək məqsədi daşıyır. Avtosfer.az Demokrat.az-a istinadən xəbər verir ki, layihə süni intellekt sahəsində təhlükəsizlik qaydalarının sərtləşdirilməsi və hüquqi təzyiqlərin artması fonunda gündəmə gəlib. Prosesin texniki tərəfini Yeni Zelandiyanın "ThroughLine" startapı icra edir. Bu təşəbbüsdə OpenAI ilə yanaşı Anthropic və Google kimi nəhəng şirkətlər də iştirak edir.

"ThroughLine" sistemi hazırda istifadəçi sorğularında özünə zərər vermə, məişət zorakılığı və ya qidalanma pozuntuları kimi siqnallar aşkar etdikdə onları müvafiq dəstək xidmətlərinə yönləndirir. Yeni mərhələdə sistemin imkanları daha da genişləndiriləcək. Beləliklə, süni intellekt zorakı ekstremizm hallarının qarşısını əvvəlcədən almağa çalışacaq.

Sözügedən texnologiyanın tətbiqi rəqəmsal platformalarda təhlükəsizlik tədbirlərinin yeni səviyyəyə qalxması kimi qiymətləndirilir.