ISC-nin bələdçisi yüksək səviyyəli prinsiplər və praktiki, həyata keçirilə bilən siyasət arasındakı boşluğu aradan qaldırmaq üçün hazırlanmış hərtərəfli çərçivə təklif edir. O, inkişaf etməkdə olan texnologiyaların təqdim etdiyi həm imkanlar, həm də risklər haqqında ümumi anlayışın təcili ehtiyacına cavab verir. Bu, sürətlə dəyişən rəqəmsal dövrümüzdə siyasət əlaqəsində çalışanlar üçün vacib sənəddir.
Çərçivə iqtisadiyyat, siyasət, ətraf mühit və təhlükəsizlik kimi xarici amillərlə yanaşı, insan və cəmiyyətin rifahını əhatə edən hərtərəfli obyektiv vasitəsilə AI və onun törəmələrinin potensialını araşdırır. Yoxlama siyahısının bəzi aspektləri kontekstdən asılı olaraq digərlərinə nisbətən daha uyğun ola bilər, lakin bütün domenlər nəzərə alınarsa, daha yaxşı qərarların qəbul edilməsi ehtimalı daha yüksək görünür, hətta bəziləri xüsusi hallarda əhəmiyyətsiz kimi tez müəyyən oluna bilsə belə. Bu, yoxlama siyahısı yanaşmasının xas dəyəridir.
“Sürətli texnoloji yeniliklər və mürəkkəb qlobal çağırışlarla yadda qalan bir dövrdə, ISC-nin potensial təsirlərin hərtərəfli və çoxölçülü təhlili üçün çərçivəsi liderlərə məlumatlı, məsuliyyətli qərarlar qəbul etmək imkanı verir. Bu, texnoloji cəhətdən irəlilədikcə, etik, sosial və iqtisadi nəticələri diqqətlə nəzərə alaraq bunu etməyimizi təmin edir”.
Peter Gluckman, ISC prezidenti
YUNESKO, İƏİT, Avropa Komissiyası və BMT və digərləri arasında yüksək səviyyəli prinsiplər elan edilsə də və potensial idarəetmə, tənzimləmə, etika və təhlükəsizlik məsələləri ilə bağlı müxtəlif müzakirələr davam etsə də, bu prinsiplər ilə bu prinsiplər arasında böyük uçurum var. idarəetmə və ya tənzimləyici çərçivə. ISC bu ehtiyacı siyasətçilər üçün yeni bələdçi vasitəsilə həll edir.
Siyasət tərtib edənlər üçün bu bələdçi tənzimləmə rejimini qadağan etmək məqsədi daşımır, əksinə, hökumətlər və çoxtərəfli sistem də daxil olmaqla, maraqlı tərəflər tərəfindən hazırlana biləcək istənilən qiymətləndirmə və tənzimləmə proseslərini əsaslandıra biləcək adaptiv və inkişaf edən analitik çərçivə təklif etməkdir.
“Çərçivə süni intellektlə bağlı qlobal söhbətdə mühüm addımdır, çünki o, texnologiyanın həm indi, həm də gələcək üçün təsirləri barədə konsensus qura biləcəyimiz əsas verir”.
Hema Sridhar, keçmiş baş elm müşaviri, Müdafiə Nazirliyinin, Yeni Zelandiya və indi Baş Tədqiqatçı Fellow, Oklend Universiteti, Yeni Zelandiya.
2023-cü ilin oktyabr ayından etibarən süni intellektin etikası və təhlükəsizliyinin daha da nəzərə alınması ilə bir neçə əhəmiyyətli milli və çoxtərəfli təşəbbüslər həyata keçirilmişdir. Maliyyə, hökumət, hüquq və təhsil, eləcə də müxtəlif bilik sistemləri (o cümlədən elmi və yerli biliklər) daxil olmaqla, bəzi kritik sistemlərimizin bütövlüyünə AI-nin təsiri getdikcə daha çox narahatlıq doğurur. Çərçivə bu aspektləri daha da əks etdirir.
Bu günə qədər ISC Üzvlərindən və beynəlxalq siyasət tərtib edən icmadan alınan rəylər analitik çərçivənin yenidən işlənmiş versiyasında öz əksini tapıb və bu, hazırda siyasətçilər üçün bələdçi kimi buraxılır.
Siyasət qurucuları üçün bələdçi: Süni intellekt, böyük dil modelləri və digərləri daxil olmaqla sürətlə inkişaf edən texnologiyaların qiymətləndirilməsi
Bu müzakirə sənədi AI ilə bağlı baş verən çoxsaylı qlobal və milli müzakirələri məlumatlandırmaq üçün ilkin çərçivənin konturunu təqdim edir.
Təşkilatınızda istifadə etmək üçün çərçivəni endirin
Burada təşkilatınızda istifadə etmək üçün çərçivə alətini redaktə edilə bilən Excel vərəqi kimi təqdim edirik. Əgər açıq mənbə formatına üstünlük verirsinizsə, secretariat@council.science ilə əlaqə saxlayın.
giriş
Sürətlə inkişaf edən texnologiyalar onların istifadəsi, idarə edilməsi və potensial tənzimlənməsi ilə bağlı çətin problemlər yaradır. Süni intellekt (AI) və onun istifadəsi ilə bağlı davam edən siyasət və ictimai müzakirələr bu məsələləri diqqət mərkəzində saxlayıb. Böyük Britaniyanın Bletçli Bəyannaməsi də daxil olmaqla, UNESCO, İƏİT, BMT və başqaları tərəfindən süni intellekt üçün geniş prinsiplər elan edilmişdir və məsələn, Avropa İttifaqı (Aİ) süni intellekt vasitəsilə texnologiyanın aspektlərinin tənzimlənməsi üçün yeni yurisdiksiya cəhdləri mövcuddur. Qanun və ya son ABŞ-ın AI İcra Sərəncamı.
Süni intellektdən istifadə bu və digər forumlarda, geosiyasi bölünmələr arasında və bütün gəlir səviyyələrində olan ölkələrdə geniş müzakirə olunsa da, yüksək səviyyəli prinsiplərin inkişafı ilə onların tənzimləmə, siyasət, idarəetmə vasitəsilə praktikaya daxil edilməsi arasında ontoloji boşluq qalmaqdadır. və ya idarəçilik yanaşmaları. Prinsipdən praktikaya gedən yol zəif müəyyən edilib, lakin AI-nin inkişafı və tətbiqinin xarakteri və tempi, cəlb olunan maraqların müxtəlifliyi və mümkün tətbiqlərin çeşidi nəzərə alınmaqla, hər hansı yanaşma həddindən artıq ümumi və ya göstərişli ola bilməz.
Bu səbəblərə görə qeyri-hökumət elmi ictimaiyyəti xüsusi rol oynamağa davam edir. Beynəlxalq Elm Şurası (ISC) – sosial və təbiət elmlərindən plüralist üzvü olmaqla – 2023-cü ilin oktyabrında sürətlə hərəkət edən rəqəmsal texnologiya ilə bağlı riskləri, faydaları, təhdidləri və imkanları nəzərə alan ilkin analitik çərçivəni təqdim edən müzakirə sənədi yayımladı. O, süni intellektə nəzər salmaq üçün işlənib hazırlansa da, o, mahiyyətcə aqnostik texnologiyadır və sintetik biologiya və kvant kimi bir sıra inkişaf etməkdə olan və pozucu texnologiyalara tətbiq oluna bilər. Həmin müzakirə sənədi alimlərin və siyasətçilərin rəylərini dəvət etdi. Böyük rəy belə bir təhlilin aparılmasını zəruri etdi və AI kimi inkişaf etməkdə olan texnologiyalara müraciət etmək üçün dəyərli bir yanaşma idi.
Çərçivənin məqsədi bütün maraqlı tərəfləri – hökumətlər, ticarət danışıqları aparan şəxslər, tənzimləyicilər, vətəndaş cəmiyyəti və sənaye də daxil olmaqla – bu texnologiyaların təkamülü haqqında məlumatlandırmaq üçün alət təmin etməkdir ki, onlara bu texnologiyaların müsbət və ya mənfi təsirlərini necə nəzərdən keçirə bilsinlər. texnologiyanın özü və daha konkret olaraq onun xüsusi tətbiqi. Bu analitik çərçivə hökumət və sənaye maraqlarından asılı olmayaraq hazırlanmışdır. O, öz perspektivlərində maksimum dərəcədə plüralistdir, texnologiyanın bütün aspektlərini və geniş məsləhət və rəyə əsaslanan təsirlərini əhatə edir.
Siyasət qurucuları üçün bu müzakirə sənədi tənzimləmə rejimini qadağan etmək məqsədi daşımır, əksinə, hökumətlər və çoxtərəfli sistem də daxil olmaqla, maraqlı tərəflər tərəfindən hazırlana biləcək istənilən qiymətləndirmə və tənzimləmə proseslərini əsaslandıra biləcək adaptiv və inkişaf edən analitik çərçivə təklif etməkdir.
Qlobal və milli miqyasda qərar qəbul edənlər AI kimi yeni texnologiyanın riskləri və mükafatlarını tarazlaşdırmaq üçün müvafiq siyasət parametrləri və rıçaqlarını nəzərdən keçirdikcə, analitik çərçivə potensial təsirlərin tam dəstinin adekvat şəkildə əks olunmasını təmin etmək üçün tamamlayıcı alət kimi nəzərdə tutulub.
Ümumi məlumat: niyə analitik çərçivə?
Süni intellektin mürəkkəbliyi və təsirləri ilə texnologiyaların sürətlə ortaya çıxması çoxlu fayda gətirən iddiaları irəli sürür. Bununla belə, bu, həm də fərdi səviyyədən tutmuş geostrateji səviyyəyə qədər əhəmiyyətli risklərin qorxusunu oyadır.1 Bu günə qədər müzakirələrin çox hissəsi ikili mənada nəzərdən keçirilmişdir, çünki ictimaiyyətə açıqlanan fikirlər spektrin həddindən artıq uclarında baş verir. Süni intellekt üçün və ya ona qarşı irəli sürülən iddialar çox vaxt hiperbolikdir və texnologiyanın təbiətini nəzərə alaraq qiymətləndirmək çətindir.
Hiperbolun kalibrlənmiş və daha dənəvər qiymətləndirmələrlə əvəz edildiyi yerlərdə daha praqmatik yanaşma lazımdır. Süni intellekt texnologiyası inkişaf etməyə davam edəcək və tarix göstərir ki, demək olar ki, hər bir texnologiyanın həm faydalı, həm də zərərli istifadəsi var. Beləliklə, sual yaranır: bəziləri böyük ölçüdə ekzistensial ola biləcək zərərli nəticələrin riskini azaltmaqla bu texnologiyadan faydalı nəticələrə necə nail ola bilərik?
Gələcək həmişə qeyri-müəyyəndir, lakin nisbətən ehtiyatlı yanaşmanı təşviq etmək üçün AI və generativ AI ilə bağlı kifayət qədər etibarlı və ekspert səsləri var. Bundan əlavə, sistem yanaşması zəruridir, çünki AI çox sayda istifadəçi tərəfindən geniş istifadə və tətbiq olunan texnologiyalar sinfidir. Bu o deməkdir ki, süni intellektdən istifadənin fərdlər, sosial həyat, vətəndaş həyatı, ictimai həyat və qlobal kontekstdə nəticələrini nəzərdən keçirərkən tam kontekst nəzərə alınmalıdır.
Əksər digər texnologiyalardan fərqli olaraq, rəqəmsal və əlaqəli texnologiyalar üçün inkişaf, buraxılış və tətbiq arasındakı vaxt çox qısadır və əsasən istehsal şirkətlərinin və ya agentliklərin maraqları ilə idarə olunur. Təbiətinə görə - və rəqəmsal əsasa əsaslandığını nəzərə alsaq, AI, böyük dil modellərinin inkişafı ilə göründüyü kimi, sürətlə yayılan tətbiqlərə sahib olacaqdır. Nəticədə, bəzi xüsusiyyətlər yalnız azad edildikdən sonra görünə bilər, yəni həm bədxah, həm də xeyirxah gözlənilməz nəticələrin riski var.
Əhəmiyyətli sosial dəyərlər ölçüləri, xüsusən də müxtəlif regionlar və mədəniyyətlər üzrə hər hansı istifadənin necə qəbul edilməsinə və qəbul edilməsinə təsir edəcək. Bundan əlavə, geostrateji maraqlar artıq müzakirələrdə üstünlük təşkil edir, suveren və çoxtərəfli maraqlar davamlı olaraq kəsişir və beləliklə, rəqabət və parçalanmaya səbəb olur.
Bu günə qədər, virtual texnologiyanın tənzimlənməsinin çox hissəsi AB AI Aktı ilə olsa da, əsasən “prinsiplər” və könüllü uyğunluq obyektivi vasitəsilə görülüb.2 və buna bənzər olaraq biz daha tətbiq edilə bilən, lakin bir qədər dar qaydalara keçid görürük. Effektiv qlobal və ya milli texnologiya idarəçiliyi və/və ya tənzimləmə sisteminin yaradılması çətin olaraq qalır və aşkar həll yolu yoxdur. İxtiraçıdan istehsalçıya, istifadəçiyə, hökumətə və çoxtərəfli sistemə qədər zəncir boyu risklə bağlı məlumatlı qərarların qəbulu üçün bir neçə təbəqə tələb olunacaq.
YUNESKO, İƏİT, Avropa Komissiyası və BMT və digərləri arasında yüksək səviyyəli prinsiplər elan edilsə də və potensial idarəetmə, tənzimləmə, etika və təhlükəsizlik məsələləri ilə bağlı müxtəlif yüksək səviyyəli müzakirələr davam etsə də, bu prinsiplər arasında böyük uçurum var. prinsiplər və idarəetmə və ya tənzimləyici çərçivə. Bunu həll etmək lazımdır.
Başlanğıc olaraq, ISC hər hansı tərtibatçı, tənzimləyici, siyasət məsləhətçisi, istehlakçı və ya qərar qəbul edən şəxsin istinad edə biləcəyi mülahizələrin taksonomiyasını inkişaf etdirməyi nəzərdən keçirir. Bu texnologiyaların geniş təsirlərini nəzərə alaraq, belə bir taksonomiya dar konsentrasiyalı çərçivəni deyil, nəticələrin məcmusunu nəzərə almalıdır. Qlobal parçalanma geostrateji maraqların qərarların qəbuluna təsiri səbəbindən artır və bu texnologiyanın aktuallığını nəzərə alaraq, müstəqil və neytral səslərin vahid və inklüziv yanaşmanı israrla müdafiə etməsi vacibdir.
1) Hindustan Times. 2023. G20 texnoloji dəyişikliklər üzrə beynəlxalq panel yaratmalıdır.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Aİ-nin Süni İntellekt Aktı. 2023. https://artificialintelligenceact.eu
Analitik çərçivənin inkişafı
ISC təbiət və sosial elmləri birləşdirən əsas qlobal qeyri-hökumət təşkilatıdır. Onun qlobal və nizam-intizam əhatə dairəsi o deməkdir ki, o, qarşıdakı mürəkkəb seçimləri məlumatlandırmaq üçün müstəqil və qlobal miqyasda müvafiq məsləhətlər yaratmaq üçün yaxşı yerləşmişdir, xüsusən də bu sahədə mövcud səslər əsasən sənayedən və ya əsas texnoloji güclərin siyasət və siyasi icmalarındandır.
Qeyri-hökumət qiymətləndirmə prosesinin nəzərdən keçirilməsini əhatə edən geniş müzakirə müddətindən sonra ISC belə qənaətə gəldi ki, onun ən faydalı töhfəsi hamı tərəfindən müzakirə və qərarların qəbulu üçün əsas kimi istifadə edilə bilən adaptiv analitik çərçivə yaratmaq olacaq. Maraqlı tərəflər, o cümlədən ortaya çıxan hər hansı rəsmi qiymətləndirmə prosesləri zamanı.
2023-cü ilin oktyabrında müzakirə və rəy bildirmək üçün buraxılmış ilkin analitik çərçivə həm dövlət, həm də qeyri-hökumət institutları tərəfindən istifadə üçün nəzərdə tutulmuş ümumi yoxlama siyahısı formasını aldı. Çərçivə insan və cəmiyyətin rifahını, eləcə də iqtisadiyyat, siyasət, ətraf mühit və təhlükəsizlik kimi xarici amilləri əhatə edən geniş obyektiv vasitəsilə AI və onun törəmələri kimi texnologiyanın potensialını müəyyən etdi və araşdırdı. Yoxlama siyahısının bəzi aspektləri kontekstdən asılı olaraq digərlərinə nisbətən daha uyğun ola bilər, lakin bütün domenlər nəzərə alınarsa, daha yaxşı qərarların qəbul edilməsi ehtimalı daha yüksək görünür, hətta bəziləri xüsusi hallarda əhəmiyyətsiz kimi tez müəyyən oluna bilsə belə. Bu, yoxlama siyahısı yanaşmasının xas dəyəridir.
İlkin çərçivə potensial imkanların, risklərin və təsirlərin məcmusunu təqdim etmək üçün Hökumət Elmi Məsləhətləri üzrə Beynəlxalq Şəbəkənin (INGSA) rəqəmsal rifah haqqında hesabatı3 və AI Sistemlərinin Təsnifatı üzrə OECD Çərçivəsi4 daxil olmaqla, əvvəlki iş və düşüncələrdən əldə edilmişdir. AI. Bu əvvəlki məhsullar öz vaxtlarını və kontekstlərini nəzərə alaraq niyyətlərinə görə daha məhdud idi; həm qısa, həm də uzunmüddətli perspektivdə məsələlərin tam spektrini təqdim edən ümumi çərçivəyə ehtiyac var.
Buraxıldıqdan sonra müzakirə sənədi bir çox ekspertlər və siyasətçilər tərəfindən əhəmiyyətli dəstək aldı. Bir çoxları texnologiyanın risklərini və nəticələrini düşünülmüş və fəal şəkildə nəzərdən keçirməyə imkan verən adaptiv çərçivənin hazırlanması tövsiyəsini xüsusi olaraq təsdiqləmişlər və bunu edərkən həmişə fərddən cəmiyyətə və sistemlərə qədər ölçülərin məcmusunu nəzərə almışdır.
Rəy vasitəsilə edilən əsas müşahidələrdən biri, çərçivədə nəzərdən keçirilən nəticələrin bir neçəsinin mahiyyət etibarı ilə çoxşaxəli olduğunu və bir çox kateqoriyalara yayıldığını etiraf etməkdir. Məsələn, dezinformasiya həm fərdi, həm də geostrateji obyektivdən nəzərdən keçirilə bilər; beləliklə, nəticələr çox geniş olardı.
Çərçivəni sınaqdan keçirmək üçün nümunələrin və ya nümunələrin daxil edilməsi variantı da təklif edilmişdir. Bu, müxtəlif kontekstlərdə praktikada necə istifadə oluna biləcəyini nümayiş etdirmək üçün təlimatlar hazırlamaq üçün istifadə edilə bilər. Bununla belə, bu, əhəmiyyətli bir iş olardı və müxtəlif qrupların bu çərçivədən istifadəni necə qəbul etdiklərini məhdudlaşdıra bilər. Bu, ən yaxşı şəkildə xüsusi yurisdiksiyalarda və ya kontekstlərdə ekspertlərlə işləyən siyasətçilər tərəfindən həyata keçirilir.
2023-cü ilin oktyabr ayından etibarən süni intellektin etikası və təhlükəsizliyinin daha da nəzərə alınması ilə bir neçə əhəmiyyətli milli və çoxtərəfli təşəbbüslər həyata keçirilmişdir. Maliyyə, hökumət, hüquq və təhsil, eləcə də müxtəlif bilik sistemləri (o cümlədən elmi və yerli biliklər) daxil olmaqla, bəzi kritik sistemlərimizin bütövlüyünə AI-nin təsiri getdikcə daha çox narahatlıq doğurur. Yenidən işlənmiş çərçivə bu aspektləri daha da əks etdirir.
Bu günə qədər alınan rəylər analitik çərçivənin yenidən işlənmiş versiyasında öz əksini tapıb və hazırda siyasətçilər üçün bələdçi kimi buraxılır.
Çərçivə süni intellekt və əlaqəli texnologiyalar kontekstində təqdim edilsə də, kvant və sintetik biologiya kimi sürətlə inkişaf edən digər texnologiyaların mülahizələrinə dərhal ötürülə bilər.
3) Gluckman, P. and Allen, K. 2018. Sürətli rəqəmsal və əlaqəli transformasiyalar kontekstində rifahı anlamaq. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) İƏİT. 2022. AI sistemlərinin təsnifatı üçün OECD Çərçivəsi. OECD Digital Economy Papers, No. 323,#. Paris, OECD Nəşriyyatı.
https://oecd.ai/en/classificatio
Çərçivə
Aşağıdakı cədvəl ehtimal olunan analitik çərçivənin ölçülərini təqdim edir. Hər bir domenin nə üçün əhəmiyyətli ola biləcəyini göstərmək üçün misallar verilmişdir; kontekstdə, çərçivə kontekstlə əlaqəli genişlənmə tələb edəcəkdir. Platformanın inkişafı zamanı yaranan ümumi problemləri və xüsusi tətbiqlər zamanı ortaya çıxa biləcək problemləri ayırd etmək də vacibdir. Buraya daxil edilən heç bir mülahizə prioritet hesab edilməməlidir və buna görə də hamısı nəzərdən keçirilməlidir.
Problemlər aşağıda göstərildiyi kimi geniş şəkildə aşağıdakı kateqoriyalara qruplaşdırılır:
Cədvəl yeni texnologiyanı qiymətləndirərkən nəzərə alınmalı ola biləcək ölçüləri təfərrüatlandırır.
– INGSA. 2018. Sürətli rəqəmsal və əlaqəli transformasiyalar kontekstində rifahın anlaşılması.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Yeni təsvirlər (geniş məsləhətləşmə, rəy və ədəbiyyat icmalı vasitəsilə əldə edilmişdir)
– OECD Süni İntellekt Sistemlərinin Təsnifatı Çərçivəsi: effektiv süni intellektin siyasəti üçün bir vasitə.
https://oecd.ai/en/classification
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| İstifadəçilərin AI səriştəsi | Sistemlə qarşılıqlı əlaqə quracaq istifadəçilər nə dərəcədə səlahiyyətli və sistemin xüsusiyyətlərindən xəbərdardırlar? Onlara müvafiq istifadəçi məlumatı və xəbərdarlıqlar necə təqdim olunacaq? |
| Təsirə məruz qalan maraqlı tərəf | Sistemdən təsirlənəcək əsas maraqlı tərəflər kimlərdir (fərdlər, icmalar, həssas qruplar, sektor işçiləri, uşaqlar, siyasətçilər, peşəkarlar və s.)? |
| Könüllülük | İstifadəçilərə sistemdən çıxmaq imkanı verilirmi və ya nəticəyə etiraz etmək və ya düzəltmək imkanı verilirmi? |
| İnsan haqları və demokratik dəyərlər üçün risklər | Sistem şəxsi həyatın toxunulmazlığı, ifadə azadlığı, ədalətlilik, ayrı-seçkiliyə yol verməmək və s. daxil olmaqla, lakin bununla məhdudlaşmayaraq insan hüquqlarına əsaslı şəkildə təsir edirmi? |
| İnsanların rifahına potensial təsirlər | Sistem fərdi istifadəçinin rifahına (iş keyfiyyəti, təhsil, sosial qarşılıqlı əlaqə, psixi sağlamlıq, şəxsiyyət, ətraf mühit və s.) təsir edən sahələrə aiddirmi? |
| İnsan əməyinin yerdəyişməsi potensialı | Sistemin insanlar tərəfindən yerinə yetirilən tapşırıqları və ya funksiyaları avtomatlaşdırmaq potensialı varmı? Əgər belədirsə, aşağı axının nəticələri nələrdir? |
| Şəxsiyyət, dəyərlər və ya bilik manipulyasiyası üçün potensial | Sistem nəzərdə tutulmuşdur və ya potensial olaraq istifadəçinin şəxsiyyətini manipulyasiya edə bilirmi və ya dəyərlər müəyyən edilir, yoxsa dezinformasiya yayılır? |
| Özünü ifadə etmək və özünü reallaşdırmaq üçün imkanlar | Sünilik və özünə şübhə potensialı varmı? Yalan və ya potensialı varmı yoxlanılmayan ekspertiza iddiaları? |
| Özünə dəyər ölçüləri | İdeallaşdırılmış özünü təsvir etmək üçün təzyiq varmı? Avtomatlaşdırma hissi əvəz edə bilər şəxsi yerinə yetirilməsi haqqında? Sistemlə rəqabət təzyiqi varmı iş yeri? Fərdi reputasiyanı dezinformasiyadan qorumaq çətindirmi? |
| Məxfilik | Məxfiliyin qorunması üçün yayılmış məsuliyyətlər varmı və varmı? şəxsi məlumatların necə istifadə edildiyinə dair fərziyyələr irəli sürülür? |
| Muxtariyyət | Süni intellekt sistemi həddindən artıq etibar yaratmaqla insan muxtariyyətinə təsir göstərə bilərmi? son istifadəçilər? |
| İnsan inkişafı | kimi insan inkişafı üçün əsas bacarıqların əldə edilməsinə təsiri varmı icra funksiyaları və ya şəxsiyyətlərarası bacarıqlar və ya diqqət vaxtındakı dəyişikliklərə təsir edir öyrənmə, şəxsiyyətin inkişafı, psixi sağlamlıq problemləri və s.? |
| Şəxsi sağlamlıq xidməti | Öz-özünə diaqnoz və ya fərdi sağlamlıq həlləri iddiaları varmı? Beləki, onlar tənzimləyici standartlara uyğun təsdiqlənirmi? |
| Psixi sağlamlıq | Artan narahatlıq, təklik və ya digər psixi sağlamlıq problemləri riski varmı və ya texnologiya bu cür təsirləri azalda bilərmi? |
| İnsan təkamülü | Böyük dil modelləri və süni ümumi intellekt dəyişə bilərmi? insan təkamülü kursu? |
| İnsan-maşın qarşılıqlı əlaqəsi | İstifadə fərdlər üçün zamanla bacarıqsızlığa və asılılığa səbəb ola bilərmi? Var insan qarşılıqlı təsirləri varmı? |
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| İctimai dəyərlər | Sistem cəmiyyətin mahiyyətini əsaslı şəkildə dəyişdirirmi, əvvəllər antisosial hesab edilən ideyaların normallaşmasına şərait yaradırmı, yoxsa tətbiq olunduğu mədəniyyətin ictimai dəyərlərini pozurmu? |
| Sosial qarşılıqlı əlaqə | Mənalı insan təması, o cümlədən emosional münasibətlərə təsiri varmı? |
| Əhali sağlamlığı | Sistemin əhalinin sağlamlıq niyyətlərini inkişaf etdirmək və ya pozmaq potensialı varmı? |
| Mədəni ifadə | Mədəni mənimsəmə və ya ayrı-seçkiliyin artması ehtimal olunur, yoxsa həll etmək daha çətindir? Qərarların qəbulu sisteminə etibar etmək cəmiyyətin mədəni baxımdan müvafiq bölmə əlaqələrini istisna edir və ya kənarlaşdırır? |
| Xalq təhsili | Müəllim rollarına və ya təhsil müəssisələrinə təsiri varmı? Sistem tələbələr arasında rəqəmsal uçurumu və bərabərsizliyi vurğulayır və ya azaldırmı? Biliyin və ya tənqidi anlayışın daxili dəyəri inkişaf etmiş və ya zəifləmişdir? |
| Təhrif olunmuş reallıqlar | Nəyin doğru olduğunu müəyyən etmək üçün istifadə olunan üsullar hələ də qüvvədədirmi? Reallıq qavrayışı pozulubmu? |
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| Sənaye sektoru | Sistem hansı sənaye sektorunda tətbiq olunur (maliyyə, kənd təsərrüfatı, səhiyyə, təhsil, müdafiə və s.)? |
| Biznes modeli | Sistem hansı biznes funksiyasında və hansı funksiyada istifadə olunur? Sistem harada istifadə olunur (özəl, ictimai, qeyri-kommersiya)? |
| Kritik fəaliyyətlərə təsirlər | Sistemin funksiyasının və ya fəaliyyətinin pozulması əsas xidmətlərə və ya kritik infrastrukturlara təsir edə bilərmi? |
| Yerləşdirmənin genişliyi | Sistem necə tətbiq olunur (vahid daxilində dar istifadə və geniş yayılmış milli/beynəlxalq)? |
| Texniki yetkinlik | Sistem texniki cəhətdən nə dərəcədə yetkindir? |
| əlaqəni | Azad ticarətə mane olan və tərəfdaşlarla əməkdaşlığa təsir edən milli və ya qlobal siloslar ola bilərmi? |
| Texnoloji suverenlik | Texnoloji suverenlik istəyi bütün süni intellekt tədarük zəncirinə nəzarət də daxil olmaqla davranışlara təkan verirmi? |
| Gəlirlərin yenidən bölüşdürülməsi və milli fiskal rıçaqlar | Suveren dövlətin əsas rolları güzəştə gedə bilərmi (məsələn, ehtiyat banklar)? Dövlətin vətəndaşların gözləntilərini və nəticələrini (sosial, iqtisadi, siyasi və s.) qarşılamaq qabiliyyəti inkişaf edəcək, yoxsa azalacaq? |
| Rəqəmsal bölünmə (Süni intellekt bölünməsi) | Mövcud rəqəmsal bərabərsizliklər şiddətlənir, yoxsa yeniləri yaranır? |
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| İdarəetmə və ictimai xidmət | İdarəetmə mexanizmlərinə və qlobal idarəetmə sisteminə müsbət və ya mənfi təsir göstərə bilərmi? |
| Xəbər media | İctimai nitqin qütbləşmə və əhali səviyyəsində möhkəmlənməsi ehtimalı varmı? Dördüncü hakimiyyətə inam səviyyəsinə təsir olacaqmı? Adi jurnalist etikası və dürüstlük standartları bundan sonra da təsirlənəcəkmi? |
| Qanunun aliliyi | Fərdləri və ya təşkilatları məsuliyyətə cəlb etmək üçün müəyyən etmək qabiliyyətinə təsir olacaqmı (məsələn, mənfi nəticələr üçün alqoritmə hansı hesabatlılığı təyin etmək)? Yaradılmış suverenlik itkisi varmı (ekoloji, fiskal, sosial siyasət, etika və s.)? |
| Siyasət və sosial birlik | Daha çox kök salmış siyasi baxışlar və konsensus yaratmaq üçün daha az imkanlar varmı? Qrupların daha da marginallaşdırılması ehtimalı varmı? Siyasətdə düşmənçilik üslubları daha çox və ya daha az ehtimal olunur? |
| Sosial lisenziya | Maraqlı tərəflərin istifadəni qəbul etməsi üçün nəzərə alınmalı olan məxfilik problemləri, etibar problemləri və mənəvi narahatlıqlar varmı? |
| Yerli bilik | Yerlilərin biliyi və məlumatları korlana və ya mənimsənilə bilərmi? Yanlış təqdimat, dezinformasiya və istismardan qorunmaq üçün adekvat tədbirlər varmı? |
| Elmi sistem | Akademik və tədqiqat bütövlüyü pozulurmu? Elmə inam itkisi varmı? Sui-istifadə, həddindən artıq istifadə və ya sui-istifadə ehtimalları varmı? Elm praktikasının nəticəsi nədir? |
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| Dəqiq nəzarət | Sistemlər fərdi davranış və bioloji məlumatlar əsasında öyrədilirmi və onlar fərdləri və ya qrupları istismar etmək üçün istifadə edilə bilərmi? |
| Rəqəmsal rəqabət | Dövlət və ya qeyri-dövlət aktorları (məsələn, böyük texnoloji şirkətlər) digər ölkələrin əhalisini və ekosistemlərini başa düşmək və onlara nəzarət etmək üçün sistemlərdən və məlumatlardan istifadə edə və ya yurisdiksiyaya nəzarəti poza bilərmi? |
| Geosiyasi rəqabət | Sistem iqtisadi, tibbi və təhlükəsizlik maraqları üçün fərdi və qrup məlumatlarından istifadə etmək üçün millətlər arasında rəqabəti qızışdıra bilərmi? |
| Qlobal güclərin dəyişməsi | Dünyanın əsas geosiyasi aktorları kimi milli dövlətlərin statusu təhlükə altındadırmı? Texnologiya şirkətləri bir vaxtlar milli dövlətlər üçün ayrılmış gücdən istifadə edirlərmi və onlar müstəqil, suveren aktyorlara çevriliblərmi (yenidən yaranan texnopolyar dünya nizamı)? |
| dezinformasiya | Sistem ictimai birliyə, inam və demokratiyaya təsir edən dövlət və qeyri-dövlət subyektləri tərəfindən dezinformasiyanın istehsalına və yayılmasına kömək edəcəkmi? |
| İkiqat istifadəli tətbiqlər | Həm hərbi, həm də mülki istifadə imkanı varmı? |
| Qlobal nizamın parçalanması | Siloslar və ya tənzimləmə və uyğunluq qrupları əməkdaşlığa mane olan, tətbiqdə uyğunsuzluqlara səbəb ola və münaqişə üçün yer yarada bilərmi? |
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| Enerji və resurs istehlakı (karbon izi) | Sistem və tələblər enerji və resurs istehlakını tətbiq vasitəsilə əldə edilən səmərəlilik artımından daha çox artırırmı? |
| Enerji mənbəyi | Sistem üçün enerji haradan alınır (bərpa olunan və qalıq yanacaqlar və s.)? |
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| İstiqamət və toplama | Məlumat və giriş insanlar, avtomatlaşdırılmış sensorlar və ya hər ikisi tərəfindən toplanır? |
| Məlumatların mənşəyi | Mütəxəssislərin məlumatları və daxiletmələri təqdim olunur, müşahidə edilir, sintetikdir və ya əldə edilir? Mənşəyi təsdiqləmək üçün su nişanı mühafizəsi varmı? |
| Verilənlərin dinamik təbiəti | Məlumat dinamik, statik, dinamik zaman-zaman və ya real vaxtda yenilənir? |
| Hüquqları | Məlumat mülkiyyətdir, ictimai və ya şəxsidir (identifikasiya edilə bilən şəxslərlə bağlıdır)? |
| Şəxsiyyətin müəyyənləşdirilməsi və şəxsi məlumatlar | Əgər şəxsidirsə, məlumat anonimləşdirilir və ya təxəllüslüdür? |
| Məlumatların strukturu | Verilənlər strukturlaşdırılmış, yarı strukturlaşdırılmış, mürəkkəb strukturlaşdırılmış və ya strukturlaşdırılmamış? |
| Məlumatların formatı | Verilənlərin və metadataların formatı standartlaşdırılıb, yoxsa standartlaşdırılmayıb? |
| Verilənlərin miqyası | Datasetin miqyası nədir? |
| Məlumatların uyğunluğu və keyfiyyəti | Verilənlər dəsti məqsədə uyğundurmu? Nümunə ölçüsü adekvatdırmı? Yetərincə təmsilçi və tamdırmı? Məlumat nə qədər səs-küylüdür? Səhvlərə meyllidirmi? |
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| Məlumatın mövcudluğu | Sistemin modeli haqqında hər hansı məlumat varmı? |
| AI modelinin növü | Model simvolik (insan tərəfindən yaradılan qaydalar), statistik (məlumatlardan istifadə edir) və ya hibriddir? |
| Modellə əlaqəli hüquqlar | Model açıq mənbədir, yoxsa mülkiyyətlidir, özü və ya üçüncü tərəf tərəfindən idarə olunur? |
| Birdən çox modeldən tək | Sistem bir modeldən və ya bir-biri ilə əlaqəli bir neçə modeldən ibarətdir? |
| Generativ və ya diskriminativ | Model generativ, diskriminativ və ya hər ikisidir? |
| Modelin qurulması | Sistem məlumatlardan, nəzarət edilən öyrənmə və ya gücləndirici öyrənmə vasitəsilə insan tərəfindən yazılmış qaydalara əsaslanaraq öyrənirmi? |
| Model təkamülü (AI drift) | Model sahədəki məlumatlarla qarşılıqlı əlaqədə inkişaf edir və/yaxud bacarıqlar əldə edirmi? |
| Federativ və ya mərkəzi öyrənmə | Model mərkəzləşdirilmiş şəkildə, yoxsa bir neçə yerli serverdə və ya “kənar” cihazda öyrədilirmi? |
| İnkişaf/texniki xidmət | Model universaldır, fərdiləşdirilə bilər və ya AI aktyorunun məlumatlarına uyğunlaşdırılıb? |
| Deterministik və ya ehtimal | Model deterministik və ya ehtimal üsulu ilə istifadə olunur? |
| Model şəffaflığı | Modelin nəticələrini və məhdudiyyətlərini başa düşmək və ya məhdudiyyətlərdən istifadə etmək üçün istifadəçilər üçün məlumat mövcuddurmu? |
| Hesablama məhdudiyyəti | Sistemdə hesablama məhdudiyyətləri varmı? Bacarıq artımlarını və ya miqyas qanunlarını proqnozlaşdırmaq mümkündürmü? |
| Meyarları | Bunun təhlildə necə əks oluna biləcəyinə dair nümunələr |
| Sistem tərəfindən yerinə yetirilən tapşırıq(lar). | Sistem hansı vəzifələri yerinə yetirir (tanınma, hadisənin aşkarlanması, proqnozlaşdırılması və s.)? |
| Tapşırıqların və hərəkətlərin birləşdirilməsi | Sistem bir neçə vəzifə və hərəkəti (məzmun yaratma sistemləri, avtonom sistemlər, idarəetmə sistemləri və s.) birləşdirirmi? |
| Sistemin muxtariyyət səviyyəsi | Sistemin hərəkətləri nə dərəcədə avtonomdur və insanlar hansı rolu oynayır? |
| İnsan iştirakının dərəcəsi | Süni intellekt sisteminin ümumi fəaliyyətinə və istənilən vəziyyətdə AI sistemindən nə vaxt və necə istifadə ediləcəyinə qərar vermək qabiliyyətinə nəzarət etmək üçün müəyyən insan iştirakı varmı? |
| Əsas tətbiq | Sistem insan dili texnologiyaları, kompüter görmə, avtomatlaşdırma və/yaxud optimallaşdırma və ya robototexnika kimi əsas tətbiq sahəsinə aiddirmi? |
| Qiymətləndirmə | Sistem çıxışını qiymətləndirmək üçün standartlar və ya üsullar mövcuddurmu? |
Bu çərçivədən necə istifadə etmək olar?
Bu çərçivə bir çox cəhətdən istifadə edilə bilər, o cümlədən:
İrəli bir yol
Xülasə, analitik çərçivə platformalarda və ya istifadədə ardıcıl və sistematik şəkildə hər hansı əhəmiyyətli inkişafa hərtərəfli baxmaq üçün maraqlı tərəflər tərəfindən istifadə edilə bilən alətlər dəstinin əsası kimi təqdim olunur. Bu çərçivədə təqdim olunan ölçülər texnologiyanın qiymətləndirilməsindən dövlət siyasətinə, insan inkişafından sosiologiyaya, gələcək və texnologiya araşdırmalarına qədər aktualdır. Süni intellekt üçün hazırlanmış olsa da, bu analitik çərçivə hər hansı digər inkişaf etməkdə olan texnologiyaya daha geniş tətbiqə malikdir.
Təşəkkürlər
Həm ilkin müzakirə sənədinin, həm də buraxıldıqdan sonra rəyin hazırlanmasında bir çox insanlarla məsləhətləşmiş və rəy bildirilmişdir. Hər iki sənədi tərtib etmişdir Sir Peter Gluckman, Prezident, ISC və Hema Sridhar, keçmiş Baş Elm Müşaviri, Müdafiə Nazirliyi, Yeni Zelandiya və indi Baş Tədqiqatçı Fellow, Oklend Universiteti, Yeni Zelandiya.
Xüsusilə, Kral Cəmiyyətinin keçmiş prezidenti və Kembric Universitetinin Ekzistensial Risklərin Tədqiqi Mərkəzinin həmtəsisçisi olan ISC Lord Martin Rees; Professor Shivaji Sondhi, Oksford Universitetinin fizika professoru; Hindistan hökumətinin keçmiş baş elmi müşaviri, professor K Vijay Raghavan; Amandeep Singh Gill, BMT Baş Katibinin Texnologiya üzrə Elçisi; Seán Ó hÉigeartaigh, Kembric Universitetinin Ekzistensial Risklərin Öyrənilməsi Mərkəzinin İcraçı Direktoru; Ser David Spiegelhalter, Riskin İctimai Anlayış üzrə Uinton Professoru, Universitet
Kembric; Amanda-June Brawner, Baş Siyasət Məsləhətçisi və Ian Wiggins, Royal Society, Beynəlxalq Əlaqələr Direktoru, Birləşmiş Krallıq; Dr Jerome Duberry, idarəedici direktor və Dr Marie-Laure Salles, Cenevrə Məzun İnstitutunun direktoru; Chor Pharn Lee, Strateji Fyuçers Mərkəzi, Baş Nazirlik Ofisi, Sinqapur; Barend Mons və Dr Simon Hodson, Məlumat Komitəsi (CoDATA); Professor Yuko Harayama, RIKEN-in keçmiş icraçı direktoru; professor
Rémi Quirion, INGSA prezidenti; Dr Claire Craig, Oksford Universiteti və Hökumət Elm Ofisi Proqnozlaşdırma şöbəsinin keçmiş rəhbəri; Prof Yoshua Bengio, BMT Baş Katibinin Elmi Məsləhət Şurası və Université de Montreal; və ilkin müzakirə sənədində ISC-yə rəy bildirmiş bir çox başqaları.
AI üçün Milli Tədqiqat Ekosistemlərinin Hazırlanması: 2024-cü ildə strategiyalar və tərəqqi
ISC-nin beyin mərkəzi olan Elm Fyuçers Mərkəzinin bu işçi sənədi süni intellektin tədqiqat ekosistemlərinə inteqrasiyasının müxtəlif mərhələlərində dünyanın hər yerindən olan ölkələrin resurslarına əsas məlumatları və çıxışı təmin edir.
Qlobal Cənubda gələcəyə hazır elm sistemlərinin qurulması
İnkişaf etməkdə olan texnologiyalar elmin aparılma tərzini yenidən formalaşdırır və Qlobal Cənubda elm sistemlərini gücləndirmək üçün əhəmiyyətli potensial təklif edir - əgər onların qəbulu inklüziv, yaxşı dəstəklənən və kontekstə həssas yanaşmalarla idarə olunarsa. Mövcud bərabərsizlikləri gücləndirməkdənsə, bu texnologiyaların daha ədalətli və möhkəm elm sistemlərinə töhfə verməsini necə təmin etmək bu yaxınlarda baş vermiş strateji geri çəkilmənin əsas diqqət mərkəzində idi.
Tədqiqatda süni intellekt açıqlaması: qlobal hesabat standartına doğru haqqında daha çox oxuyun
Elmi təşkilatlarda gender bərabərliyinə doğru: qiymətləndirmə və tövsiyələr haqqında daha çox oxuyun
Maskat Qlobal Bilik Dialoqu haqqında daha çox oxuyun
