"ბავშვს კი არ ვუთვალთვალებთ, საფრთხეებს ვაკვირდებით" – როგორ ცდილობს Protejo ბავშვების ონლაინ დაცვას AI-ით
Opinions expressed by Entrepreneur contributors are their own.
You're reading Entrepreneur Georgia, an international franchise of Entrepreneur Media.
"საფრთხე არასდროს იმალებოდა კარს მიღმა. ის ჩატებში, პირად მიმოწერაშია" – სწორედ ამ დაკვირვებიდან დაიწყო Protejo-ს შექმნის იდეა. კიბერუსაფრთხოების სფეროში წლების განმავლობაში მუშაობისას, კომპანიის დამფუძნებელმა და CEO-მ, ედვარდ შრაგამ, დაინახა პრობლემა, რომელსაც ტრადიციული parental control აპლიკაციები სრულად ვერ პასუხობდნენ: ისინი ძირითადად ეკრანთან გატარებულ დროს, კონტენტსა და ვებსაიტებზე წვდომას აკონტროლებენ მაშინ, როცა ბავშვებისთვის რეალური საფრთხე ხშირად პირად მიმოწერებსა და ონლაინ ურთიერთობებში ჩნდება.
სწორედ ამ პრობლემის გადასაჭრელად შეიქმნა Protejo – AI-ზე დაფუძნებული პლატფორმა, რომელიც ბავშვის ონლაინ აქტივობას საფრთხეების გამოსავლენად აანალიზებს და მშობელს მხოლოდ მაშინ ატყობინებს, როცა სისტემა რეალურ რისკს აფიქსირებს. პლატფორმის მთავარი პრინციპი კი ასეთია: " ჩვენ არ ვუთვალთვალებთ ბავშვებს, ჩვენ ვიცავთ".
როგორ მუშაობს ეს მიდგომა პრაქტიკაში, როგორ ეხმარება ხელოვნური ინტელექტი საფრთხის კონტექსტის ამოცნობაში, როგორ ინარჩუნებს Protejo ბავშვის პირად სივრცეს და რა აჩვენა 85-ზე მეტ ქართულ ოჯახთან ჩატარებულმა ბეტა-ტესტირებამ – ამ და სხვა საკითხებზე Entrepreneur ედვარდ შრაგას ესაუბრა.
როგორ გაჩნდა Protejo-ს შექმნის იდეა და რა იყო პრობლემა, რომლის გადაჭრაც თავიდანვე გინდოდათ?
კიბერუსაფრთხოებაში წლების განმავლობაში ვიმუშავე და მთელი ეს დრო ერთი რამ მაწუხებდა: მშობელს წარმოდგენა არ აქვს, რას აწყდება მისი შვილი ონლაინ. ჰგონია, რომ იცის, სინამდვილეში კი არა. ბაზარზე არსებული აპლიკაციები, უბრალოდ, კარს კეტავენ – "ეს დაბლოკე, ის შეზღუდე". მაგრამ საფრთხე არასდროს იმალებოდა კარს მიღმა. ის ჩატებშსა და პირად მიმოწერებშია – იქ, სადაც ვერცერთი მშობელი ვერ იხედება. ამიტომ შევწყვიტე უკეთესი "კარის" კეთება და ავაწყვე სისტემა, რომელიც ბავშვს კი არ უთვალთვალებს, არამედ საფრთხეებს აკვირდება.
რატომ ფიქრობთ, რომ ბავშვების ონლაინ უსაფრთხოებისთვის დღეს ახალი მიდგომაა საჭირო? რა საფრთხეებს აწყდებიან ბავშვები ყველაზე ხშირად ციფრულ სივრცეში?
საფრთხეები შეიცვალა, მათთან გამკლავების მიდგომები კი არა. მაგალითად, დღემდე გვესმის ფრაზები "არ ესაუბრო უცნობებს ქუჩაში", "არავის გამოართვა კანფეტები", მაშინ, როცა იმ ხიფათს , რომლისგანაც ბავშვების დაცვას ვცდილობთ, ახლა ქუჩებსა და პარკებში კი არა, ონლაინ სივრცეში გადაეყარნენ ბავშვები .
Protejo-ს მთავარი მიზანი საფრთხეების ადრეული აღმოჩენა და პრევენციაა. რას ნიშნავს ეს პრაქტიკაში და რა მომენტში ერთვება პლატფორმა?
ეს ნიშნავს, რომ საფრთხეს გამოვიჭერთ დროულად და არა მას შემდეგ, რაც ბავშვი უკვე დაზარალდა. მშობლისა და ბავშვის თანხმობისთანავე, Protejo უკავშირდება მოზარდის ანგარიშებს და საუბრებს რეალურ დროში კითხულობს. როგორც კი ნამდვილი საფრთხილო ნიშანი გამოჩნდება, ჩვენ მყისიერად ვმოქმედებთ და ვაცნობებთ მშობელს, რომ იმოქმედოს.
რა როლს ასრულებს ხელოვნური ინტელექტი Protejo-ს მუშაობაში და რა ტიპის საფრთხეების აღმოჩენა შეუძლია პლატფორმას?
სწორედ ეს არის მთავარი: ჩვენი AI ბილწსიტყვაობას არ ეძებს, ამას ნებისმიერი პლატფორმა გააკეთებს. ის მთელ საუბარს კითხულობს, 10-ზე მეტ პლატფორმაზე, 8 ენაზე, აანალიზებს კონტექსტს და ესმის, რა ხდება სინამდვილეში. სისტემა განასხვავებს მეგობრის ნათქვამ ხუმრობას იმ ადამიანისგან, რომელიც ბავშვს მართლა ემუქრება.
ავიღოთ გავრცელებული შემთხვევა: თამაშში ან სოციალურ ქსელში პროფილი თავს რვა წლის ბავშვად ასაღებს, სინამდვილეში კი მის უკან ზრდასრული მოძალადე ზის. ბავშვისთვის ეს უბრალოდ მისი ასაკის ახალი მეგობარია. ჩვენი პლატფორმა AI პროფილს არ უყურებს, ის საუბრის პატერნს კითხულობს და ცნობს, როცა "რვა წლის მეგობარი" სინამდვილეში ზრდასრულია, რომელიც ბავშვს საშიში მიმართულებით ატარებს. იგივე ეხება ორგანიზებულ გრუმინგსაც - როცა ბავშვზე ერთი ადამიანი კი არა, კოორდინირებული ჯგუფი მუშაობს. სისტემა განასხვავებს ნამდვილი მეგობრის ხუმრობას იმ ადამიანისგან, რომელიც მართლა საფრთხეს წარმოადგენს.
რით განსხვავდება Protejo ტრადიციული parental control აპლიკაციებისგან, რომლებიც ძირითადად ეკრანთან გატარებული დროისა და კონტენტის კონტროლზეა ორიენტირებული?
სხვა აპლიკაციები ბავშვს დამნაშავესავით ეპყრობიან, ეკრანი დაბლოკე, დრო შეზღუდე, საიტები დახურე და ა.შ. ჩვენ პირიქით ვიქცევით, არაფერს ვბლოკავთ, არაფერს ვზღუდავთ. და რაც მთავარია, ბავშვის მთელ ცხოვრებას და პირად სივრცეს მშობლის ტელეფონში არ ვაზიარებთ. მხოლოდ ნამდვილ საფრთხეზე ვრეაგირებთ, ისეთზე, რომელიც შესაძლოა მოზარდმა ვერ შეამჩნიოს ან შერცხვეს, რომ თავად გაუზიაროს დედ-მამას.
როგორ განსაზღვრავს სისტემა, რომ კონკრეტული ონლაინ აქტივობა რეალურ საფრთხეს წარმოადგენს და როდის იღებს მშობელი შეტყობინებას?
ერთი უწმაწური სიტყვა მშობელთან შეტყო ბინების გაგზავნას არ ნიშნავს, რადგან სწორედ ესაა მიზეზი იმის, თუ რატომ უგულებელყოფენ ადამიანები შეტყობინებებს. ჩვენ მთლიან სურათს ვუყურებთ და კონტექსტს ვაანალიზებთ. ვაკვირდებით, რა პატერნი ყალიბდება, როგორ იცვლება დიალოგი დროთა განმავლობაში და საით მიდის. ჩვენ მაშინ გაგაფრთხილებთ, როცა მართლა ვერ არის რაღაც რიგზე და თქვენს ჩარევას საჭიროებს.
ბავშვის უსაფრთხოებასთან ერთად მნიშვნელოვანია მისი პირადი სივრცის დაცვაც. როგორ ახერხებს Protejo ამ ორი მიზნის დაბალანსებას?
მარტივი წესი: ჩვენი სისტემიდან არაფერი ჩაირთვება, სანამ მშობელიც და ბავშვიც არ შეთანხმდებიან. და შენ, როგორც მშობელი, არასდროს კითხულობ უშუალოდ მიმოწერებს, არამედ ხედავ საფრთხეს და მხოლოდ საფრთხეს. ბავშვს თავ ისი პირადი სივრცე დაურღვევლად რჩება, შენ კი იღებ იმ ერთადერთ რამეს, რაც ნამდვილად გჭირდება – გაფრთხილებას, როცა მნიშვნელოვანია. სულ ეს არის მთელი აზრი.
რას გულისხმობს თქვენი მთავარი პრინციპი " ჩვენ არ ვუთვალთვალებთ ბავშვებს, ჩვენ ვიცავთ" და როგორ აისახება ის პლატფორმის მუშაობაზე?
როცა ვამბობთ, რომ " ჩვენ არ ვუთვალთვალებთ ბავშვებს, ჩვენ მათ ვიცავთ", ეს ლოზუნგი არ არის, ეს ისაა, თუ როგორ არის აწყობილი მთელი სისტემა. თვალთვალი ნიშნავს ყველაფრის ყურებას. დაცვა ნიშნავს მხოლოდ საფრთხის ყურებას და მეტი არაფრის. ჩვენ არ ვკითხულობთ რომანტიკულ მესიჯებს, ჯგუფურ ჩატებს, ჩვეულებრივ მოზარდულ ცხოვრებას, სწორედ ამიტომ მუშაობს Protejo-ც. წინააღმდეგ შემთხვევაში, როგორც კი ბავშვი იგრძნობს, რომ თვალს ადევნებენ, ის გაჩუმდება და დაიმალება. ჩვენ ვინარჩუნებთ ნდობას. ნდობა კი სწორედ ის არის, რაც ბავშვს ნამდვილად იცავს.
პირადი სივრცე იმასაც ეხება, რას ვინახავთ ჩვენ. ჩვენი სისტემა კი არაფერს ინახავს: მედია და აუდიო შეტყობინებები ჩვენი სერვერებიდან 48 საათში იშლება. ჩვენ ბავშვის ცხოვრების არქივს არ ვქმნით. ვეძებთ საფრთხეს, ვრეაგირებთ და დანარჩენს ვაქრობთ, რადგან ესეც ბავშვის დაცვის ნაწილია.
Protejo-მ 85-ზე მეტ ქართულ ოჯახთან გაიარა დახურული ბეტა-ტესტირება. რა გაჩვენათ ამ გამოცდილებამ და რა შეცვალა მომხმარებლების უკუკავშირმა პროდუქტში?
გაკვეთილი ტექნიკური არ ყოფილა, ადამიანური იყო. მშობლებს უფრო ეშინიათ შვილის ნდობის დაკარგვის, ვიდრე თავად მოძალადეების. ბავშვები კი არ აპროტესტებენ, როცა ხვდებიან, რომ ეს დაცვაა და არა თვალთვალი. ისიც გავიგეთ, რომ " ხმაურიანი" შეტყობინება უსარგებლო შეტყობინებაა, ამიტომ კარგად დავხვეწეთ სისტემა შემდეგ ასპექტებში: ნაკლები ცრუ განგაში, ჩართვა დაახლოებით 5 წუთში, ბავშვის ტელეფონზე ინსტალაციის გარეშე, და შეტყობინებები ისე დაწერილი, რომ მშობელმა ზუსტად იცოდეს, რა ქნას და უბრალოდ, არ დაიბნეს.
2026 წელს Protejo-მ Startupbootcamp Georgia-ს ფარგლებში GITA-ს ₾150 000-იანი დაფინანსება მოიპოვა. რა შესაძლებლობები შექმნა ამ მხარდაჭერამ კომპანიისთვის და როგორია თქვენი გეგმები საერთაშორისო ბაზრებზე გაფართოებისთვის?
ორი რამ გავიგეთ გრანტის მოპოვებიდან: პირველი – დამტკიცდა, რომ ეს მხოლოდ სიტყვები არ არის; სერიოზულმა ადამიანებმა სერიოზული ფული ჩადეს ჩვენს ხედვაში. მეორე – დაგვიფინანსდა სისტემის გაშვება და ჩვენი პირველი რეალური ნაბიჯი ოჯახების მოზიდვისკენ. აქედან საქართველოს ფარგლებს გარეთ გავდივართ – მეზობელ ქვეყნებში, პლუს არაბთა გაერთიანებული საამიროები. ჩვენი მიზანი 100 000 დაცული ოჯახია. სისტემა ისეა აწყობილი, რომ ნებისმიერ ბაზარზე ეწყობა.
რა არის თქვენთვის ყველაზე დიდი გამოწვევა ისეთი ტექნოლოგიის შექმნისას, რომელიც ერთდროულად ბავშვების უსაფრთხოებასა და მათ თავისუფლებას უნდა ემსახურებოდეს?
გამოწვევაა დავიცვათ ზღვარი, რომელიც ბავშვის დაცვასა და მის კონტროლს შორის გადის. შორს თუ წახვალ და ჯაშუშურ ხელსაწყოს ააწყ ობ, ან საკმარისად არ წახვალ, ბავშვს დააღალატებ. უსაფრთხო შუალედი, სადაც დაიმალები, არ არსებობს. ყოველი ცალკეული ფუნქცია, რომელსაც ვქმნით, სინამდვილეში პასუხია ერთსა და იმავე მკაცრ კითხვაზე : როგორ დაიცავ ბავშვს ისე, რომ არ უთვალთვალო?
რა არის თქვენი პლატფორმის განვითარების სამომავლო გეგმები?
მეტი პლატფორმა, მეტი ენა, უფრო მეტი სისტემური სიზუსტე, მეტი ქვეყანა და თავად აპლიკაციაზე დიდი რამ – მსურს, რომ Protejo სკოლებისა და მთავრობების გვერდით, ერთ მაგიდასთან იჯდეს, და არა მხოლოდ ოჯახებთან. მიზანია, გავხდეთ ის სახელი, რომელსაც მშობლები გარე სამყაროდან ბავშვების თავს ონლაინ სამყაროში ანდობენ.
Protejo-ს შესახებ დეტალური ინფორმაციისთვის ეწვიეთ ვებგვერდს: https://protejo.net/
