Розділ XX. Цифрова держава, AI і дані

Розділ XX. Цифрова держава, AI і дані

Короткий зміст

Цей розділ визначає засади цифрової держави, використання штучного інтелекту, захисту даних, цифрової ідентичності, цифрових сервісів, відкритих реєстрів, кібербезпеки і цифрового суверенітету України.

Цифрова держава має служити людині, а не контролювати людину. Вона повинна робити державні послуги простими, швидкими, доступними, прозорими і справедливими, але не може перетворюватися на систему тотального стеження, маніпуляції, соціального рейтингу або цифрової диктатури.

Дані про людину не є приватною власністю чиновника, органу влади, державного реєстру, алгоритму чи приватної платформи. Людина має право знати, які дані про неї зберігаються, хто і коли отримував до них доступ, з якою метою вони використовувалися, як виправити помилки і як оскаржити незаконну обробку.

Штучний інтелект може допомагати державі аналізувати ризики, виявляти корупційні схеми, підвищувати якість сервісів, захищати реєстри, прогнозувати потреби і спрощувати управління. Але AI не може самостійно визнавати людину винною, призначати покарання, позбавляти прав, відбирати майно, дітей, громадянство, блокувати рахунки або ухвалювати незрозумілі рішення без права на пояснення, людський перегляд і судовий захист.

Розділ також закріплює право на цифрову і нецифрову альтернативу, заборону соціального рейтингу, цифрової диктатури і прихованого профілювання, вимоги до кібербезпеки, цифрового суверенітету, відкритих даних, цифрової інклюзії, відповідальність приватних цифрових платформ і особливі обмеження цифрової влади під час війни.

Основні положення

1. Цифрова держава служить людині, громаді і Українському народові.
2. Цифровізація не може бути підставою для звуження людської гідності, прав, свобод, приватності і судового захисту.
3. Держава зобов’язана надавати цифрові сервіси просто, швидко, прозоро, зрозуміло і доступно.
4. Держава не має права вимагати від людини дані або довідки, які вже є у державних реєстрах.
5. Цифровий доступ розширює права людини, але не може бути єдиним способом існування людини в державі.
6. Кожна людина має право на нецифрову альтернативу для отримання базових державних послуг.
7. Цифрова ідентичність не може бути цифровим кайданом, рейтингом лояльності або інструментом прихованого стеження.
8. Дані про людину не є власністю чиновника, органу влади, реєстру, алгоритму або приватної цифрової платформи.
9. Людина має право знати, які дані про неї має держава, хто, коли і з якою метою отримував до них доступ.
10. Держава не може збирати більше даних, ніж необхідно для законної мети.
11. Автоматизоване рішення, яке істотно впливає на права людини, має бути зрозумілим, пояснюваним, оскаржуваним і доступним для людського перегляду.
12. Штучний інтелект може бути інструментом аналізу, допомоги і підготовки рішень, але не може замінити політичну, адміністративну, професійну або судову відповідальність людини.
13. AI не може самостійно карати, позбавляти прав, відбирати майно, дітей, громадянство, блокувати рахунки або визнавати людину винною.
14. Соціальний рейтинг громадянина, цифровий рейтинг лояльності, політичне профілювання, приховані списки неблагонадійних і цифрове переслідування забороняються.
15. Державні реєстри, дані громадян, вибори, критична інфраструктура, оборонні системи і цифрові сервіси є об’єктами національної безпеки.
16. Відкриті дані є інструментом прозорості і антикорупційного контролю, але персональні дані не можуть відкриватися без законної підстави.
17. Приватна цифрова платформа не може стати тіньовим органом влади або інструментом маніпуляції громадянами.
18. Під час війни цифрові обмеження можуть застосовуватися лише законом, строково, пропорційно і під контролем.
19. Війна не може бути виправданням для створення постійної системи цифрової диктатури.
20. За зловживання цифровою владою, незаконний доступ до даних, витік даних, маніпуляцію алгоритмами або приховане стеження настає відповідальність, визначена законом.

Основні принципи

• Цифрова держава служить людині, а не контролює людину.
• Дані про людину підлягають захисту, мінімізації, прозорому доступу і законному використанню.
• Цифровий сервіс не може створювати цифрове виключення.
• Людина має право на нецифрову альтернативу.
• Цифрова ідентичність не може бути цифровим кайданом.
• AI є інструментом допомоги, а не самостійною владою.
• Автоматизовані рішення мають бути пояснюваними і оскаржуваними.
• Людина має право на людський перегляд рішення машини.
• Соціальний рейтинг громадянина заборонений.
• Масове стеження без закону і судового контролю заборонене.
• Відкриті дані посилюють прозорість держави.
• Персональні дані не можуть бути принесені в жертву зручності держави.
• Кібербезпека є частиною національної безпеки.
• Держава має цифровий суверенітет і не може залежати від держави-агресора.
• Приватні цифрові монополії не можуть підміняти державну владу.
• Діти, люди з інвалідністю, люди похилого віку, військові, мешканці сіл, деокупованих територій і українці за кордоном мають бути включені в цифрову державу без дискримінації.
• Воєнний стан не може бути підставою для вічного цифрового контролю.

Нормативний текст

Стаття 1. Цифрова держава як служіння людині

Цифрова держава України створюється і функціонує для служіння людині, громаді і Українському народові.

Метою цифрової держави є спрощення доступу до державних послуг, підвищення прозорості влади, зменшення бюрократії, запобігання корупції, захист прав людини, підвищення ефективності управління і стійкості держави.

Цифровізація не може бути підставою для звуження людської гідності, прав, свобод, приватності, рівності, судового захисту або політичної відповідальності органів влади.

Держава не має права перекладати хаос своїх органів, реєстрів, процедур або інформаційних систем на людину.

Стаття 2. Простота і доступність цифрових сервісів

Держава зобов’язана надавати цифрові послуги просто, швидко, прозоро, зрозуміло, доступно і з мінімальним адміністративним тягарем для людини.

Людина не зобов’язана подавати державі документи, довідки або дані, які вже є у державних реєстрах, крім випадків, прямо визначених законом для захисту безпеки, прав людини або достовірності даних.

Цифровий сервіс має містити зрозумілу інформацію про підстави, етапи, строки, відповідальний орган, можливість оскарження і спосіб отримання допомоги.

Держава зобов’язана забезпечити простежуваність цифрових процедур, захист від втрати даних, помилок, несанкціонованого доступу і технічної дискримінації.

Стаття 3. Право на цифровий доступ і нецифрову альтернативу

Кожна людина має право на доступ до цифрових державних сервісів у порядку, визначеному законом.

Цифровий доступ розширює права людини, але не може бути єдиним способом існування людини в державі.

Людина не може бути позбавлена базових державних послуг, документів, соціального захисту, медичної допомоги, освіти, правосуддя, участі у виборах або інших конституційних прав лише через відсутність смартфона, інтернету, цифрового підпису, банківського рахунку, цифрових навичок або фізичної можливості користуватися цифровими засобами.

Держава забезпечує нецифрову альтернативу для отримання базових послуг і реалізації основних прав, особливо для людей похилого віку, людей з інвалідністю, дітей, військовослужбовців, мешканців сіл, деокупованих територій, тимчасово переміщених осіб і громадян України за кордоном.

Стаття 4. Цифрова ідентичність

Цифрова ідентичність є засобом підтвердження особи, доступу до державних сервісів і безпечної взаємодії з державою, громадою та іншими суб’єктами.

Цифрова ідентичність не може бути інструментом прихованого стеження, примусу, соціального рейтингу, політичного контролю, економічного блокування або цифрового покарання.

Забороняється створення прихованого цифрового рейтингу громадянина, рейтингу лояльності, рейтингу благонадійності або іншої системи, яка без законної підстави визначає доступ людини до прав, послуг, роботи, освіти, медицини, пересування, фінансів або участі в суспільному житті.

Цифрова ідентичність не може бути заблокована, обмежена або анульована без законної підстави, зрозумілого пояснення, можливості швидкого людського перегляду і ефективного оскарження.

Стаття 5. Дані людини і право на контроль над даними

Дані про людину не є власністю чиновника, органу влади, державного реєстру, алгоритму або приватної цифрової платформи.

Кожна людина має право знати, які дані про неї збирає, зберігає, обробляє або передає держава, хто, коли, з якою метою і на якій підставі отримував доступ до таких даних.

Кожна людина має право вимагати виправлення неточних даних, обмеження незаконної обробки, припинення незаконного використання, пояснення автоматизованого рішення, людського перегляду і судового захисту.

Держава зобов’язана забезпечити журнал доступу до персональних даних людини, крім випадків, коли тимчасове обмеження такого повідомлення прямо передбачене законом і необхідне для захисту національної безпеки, життя людини або розслідування тяжкого злочину.

Стаття 6. Приватність і заборона надмірного збору даних

Держава, органи місцевого самоврядування, посадові особи, державні підприємства, приватні виконавці публічних функцій і цифрові платформи не можуть збирати, зберігати або обробляти більше персональних даних, ніж необхідно для законної, визначеної і пропорційної мети.

Збирання даних “про запас”, приховане профілювання, масове невибіркове стеження, незаконне поєднання реєстрів, використання даних не за первинною метою або передача даних без законної підстави забороняються.

Персональні дані про здоров’я, дітей, біометрію, місцеперебування, фінанси, політичні погляди, релігійні переконання, сімейне життя, військовий статус і безпекові ризики підлягають особливому захисту.

Стаття 7. Автоматизовані рішення і право на пояснення

Людина має право знати, якщо рішення, яке істотно впливає на її права, свободи, обов’язки, майно, доступ до послуг, соціальний статус, освіту, роботу, медицину або правосуддя, ухвалене повністю або частково автоматизованою системою.

Таке рішення має бути пояснюваним, зрозумілим, перевірним, оскаржуваним і доступним для людського перегляду.

Людина має право отримати зрозуміле пояснення основних підстав автоматизованого рішення, подати заперечення, надати додаткові відомості, вимагати людського перегляду і звернутися до суду.

Жодна людина не може бути поставлена перед незрозумілим рішенням машини без права на пояснення, людський перегляд і ефективний захист.

Стаття 8. Штучний інтелект у державному управлінні

Штучний інтелект може використовуватися державою для аналізу даних, виявлення ризиків, запобігання корупції, підвищення якості сервісів, кіберзахисту, прогнозування потреб, медичних, освітніх, соціальних, податкових, екологічних, безпекових та інших публічних завдань у межах закону.

Штучний інтелект є інструментом допомоги, аналізу і підготовки рішень, але не є самостійним суб’єктом влади.

AI не може самостійно визнавати людину винною, призначати покарання, позбавляти прав, відбирати майно, житло, дитину, громадянство, блокувати рахунки, обмежувати свободу пересування, відмовляти в базових послугах або ухвалювати рішення, яке істотно впливає на права людини без людської відповідальності.

Орган влади, посадова особа або інший відповідальний суб’єкт не може виправдовувати незаконне рішення посиланням на алгоритм, модель, автоматизовану систему або штучний інтелект.

За рішення, підготовлене або підтримане AI, відповідає визначений законом орган або посадова особа.

Стаття 9. Заборона цифрової диктатури і соціального рейтингу

В Україні забороняється цифрова диктатура, соціальний рейтинг громадянина, цифровий рейтинг лояльності, політичне профілювання, приховані списки неблагонадійних, цифрове переслідування, масове незаконне стеження і блокування прав через політичну позицію, журналістську діяльність, громадську активність, критику влади або світогляд.

Держава не може використовувати цифрові системи, реєстри, AI, біометрію, телекомунікаційні дані, фінансові дані, геолокацію або платформені дані для придушення опозиції, журналістів, громадських організацій, релігійних спільнот, профспілок, національних меншин або небажаних осіб.

Будь-яка система цифрового контролю, що обмежує права людини, має бути встановлена законом, мати легітимну мету, бути необхідною, пропорційною, строковою, контрольованою і доступною для судового перегляду.

Цифрова держава не може бути цифровою в’язницею.

Стаття 10. Кібербезпека і цифровий суверенітет

Державні реєстри, дані громадян, виборчі системи, оборонні системи, фінансова система, медичні, освітні, податкові, соціальні, ресурсні, земельні, судові та інші критичні цифрові системи є об’єктами національної безпеки України.

Держава зобов’язана забезпечити кіберзахист, резервування, стійкість, аудит, відновлення після атак, захист від внутрішніх зловживань, контроль доступу і безперервність роботи критичних цифрових систем.

Україна забезпечує цифровий суверенітет, технологічну незалежність критичних державних систем, захист від держави-агресора, ворожих цифрових платформ, шкідливого програмного забезпечення, кібероперацій, інформаційних операцій і прихованого зовнішнього контролю.

Критичні державні цифрові системи не можуть перебувати під контролем держави-агресора, пов’язаних із нею компаній, бенефіціарів, технологій або інфраструктури.

Стаття 11. Відкриті дані і прозорість держави

Відкриті дані є інструментом прозорості, громадського контролю, антикорупційної стійкості, інновацій і довіри до держави.

Держава забезпечує відкритість даних про бюджет, закупівлі, державне і комунальне майно, ліцензії, концесії, реєстри власності, судові рішення, голосування посадових осіб, державні підприємства, екологічні показники, статистику, використання публічних коштів та іншу інформацію публічного інтересу.

Відкритість даних не може порушувати приватність людини, безпеку дітей, захист персональних даних, державну таємницю, оборонну безпеку або безпеку осіб, які перебувають під загрозою.

Закриття відкритих даних допускається лише законом, з чіткою підставою, строком, публічним обґрунтуванням і контролем, якщо інше не випливає з реальної потреби захисту національної безпеки під час війни.

Стаття 12. Цифрові реєстри і відповідальність за їх достовірність

Державні цифрові реєстри мають бути достовірними, захищеними, взаємодіючими, прозорими щодо доступу і придатними для виправлення помилок.

Помилка в державному реєстрі не може автоматично покладатися на людину, якщо вона не спричинена її умисними діями.

Людина має право на швидке виправлення реєстрової помилки, тимчасовий захист своїх прав на час виправлення, пояснення причин помилки і відшкодування шкоди у випадках, визначених законом.

Орган або посадова особа, відповідальні за реєстр, несуть відповідальність за незаконне внесення, зміну, видалення, приховування або спотворення даних.

Стаття 13. Цифрова доступність і інклюзія

Цифрова держава має бути доступною для людей з інвалідністю, людей похилого віку, дітей, ветеранів, військовослужбовців, внутрішньо переміщених осіб, мешканців сіл, прифронтових, тимчасово окупованих і деокупованих територій, а також громадян України за кордоном.

Держава зобов’язана забезпечити доступні інтерфейси, просту мову, адаптивність для людей з порушеннями зору, слуху, моторики, когнітивних функцій, альтернативні канали доступу, підтримку користувачів і навчання цифровій грамотності.

Цифрова система, яка є технічно сучасною, але фактично виключає частину громадян, не відповідає принципу цифрової держави, що служить людині.

Стаття 14. Приватні цифрові платформи і цифрові монополії

Приватні цифрові платформи, які істотно впливають на доступ людей до інформації, праці, торгівлі, фінансів, освіти, політичної комунікації, медіа або публічних послуг, несуть підвищену відповідальність перед суспільством і законом.

Приватна цифрова платформа не може стати тіньовим органом влади, інструментом прихованої цензури, політичної маніпуляції, незаконного збору даних, дискримінації, монопольного контролю або цифрового примусу.

Забороняється продаж, передача або використання персональних даних без законної підстави, згоди або іншої правової підстави, визначеної законом.

Алгоритми приватних платформ, які істотно впливають на права, доступ до інформації, політичну комунікацію, економічні можливості або безпеку людей, підлягають вимогам прозорості, контролю, недискримінації і відповідальності у порядку, визначеному законом.

Стаття 15. Захист дітей у цифровому середовищі

Діти мають право на особливий захист у цифровому середовищі.

Забороняється цифрова експлуатація дітей, онлайн-грумінг, приховане профілювання дітей, маніпулятивна реклама, комерційне використання дитячої уваги, поширення шкідливого контенту, незаконна обробка дитячих даних і алгоритмічний вплив, що шкодить розвитку, психічному здоров’ю, гідності або безпеці дитини.

Цифрові освітні, розважальні, соціальні та інші сервіси для дітей мають створюватися з урахуванням безпеки, приватності, розвитку, віку, психологічної вразливості і найкращого інтересу дитини.

Дитина не може бути сировиною для цифрового ринку уваги.

Стаття 16. Цифрова держава під час війни

Під час війни або надзвичайного стану держава може застосовувати посилені цифрові інструменти безпеки, оборони, мобілізації, захисту критичної інфраструктури, кіберзахисту і протидії державі-агресору лише на підставі закону.

Такі заходи мають бути необхідними, пропорційними, строковими, контрольованими і не можуть перетворюватися на постійну систему стеження після припинення відповідних підстав.

Воєнний стан не скасовує людську гідність, право на приватність, судовий захист, відповідальність посадових осіб, заборону цифрової диктатури і заборону використання цифрових систем для політичного переслідування.

Війна може вимагати цифрової мобілізації, але не виправдовує створення вічної цифрової диктатури.

Стаття 17. Відповідальність за зловживання цифровою владою

Незаконний доступ до даних, витік персональних даних, зловживання реєстрами, приховане стеження, політичне профілювання, незаконне блокування цифрової ідентичності, маніпуляція алгоритмами, незаконне автоматизоване рішення, створення соціального рейтингу або цифрове переслідування тягнуть відповідальність, визначену законом.

Посадова особа, орган влади, державне підприємство, приватний виконавець публічної функції або цифрова платформа несуть відповідальність за шкоду, завдану незаконною цифровою дією або бездіяльністю.

Людина має право на ефективне розслідування, виправлення порушення, відшкодування шкоди і судовий захист у разі незаконного використання її даних або цифрової влади проти неї.

Стаття 18. Спеціальні закони про цифрову державу, AI і дані

Порядок функціонування цифрової держави, цифрової ідентичності, державних реєстрів, відкритих даних, захисту персональних даних, автоматизованих рішень, використання штучного інтелекту, кібербезпеки, цифрового суверенітету, приватних цифрових платформ, цифрової доступності, захисту дітей у цифровому середовищі і відповідальності за цифрові зловживання визначається Конституцією і законами України.

Такі закони не можуть скасовувати людську гідність, право на приватність, право на нецифрову альтернативу, право на пояснення автоматизованого рішення, право на людський перегляд, судовий захист, заборону соціального рейтингу і заборону цифрової диктатури.

Пояснення для громадян

Цей розділ виходить із простої ідеї: цифрова держава має полегшувати життя людини, а не перетворювати людину на об’єкт контролю.

Держава повинна бути зручною: послуги мають бути швидкими, простими і зрозумілими. Людина не повинна носити довідки між органами, якщо держава вже має ці дані. Але цифровізація не може означати, що людина без смартфона, інтернету або цифрових навичок перестає існувати для держави.

Дані про людину мають бути захищені. Людина повинна знати, які дані про неї має держава, хто і коли до них звертався, як виправити помилку і як захиститися від незаконної обробки.

Штучний інтелект може допомагати державі, але не може бути новим чиновником без обличчя. Якщо машина впливає на права людини, людина має право на пояснення, людський перегляд і судовий захист.

Особливо небезпечною є цифрова диктатура: соціальний рейтинг, рейтинг лояльності, приховані списки неблагонадійних, політичне профілювання, незаконне стеження і блокування послуг через позицію людини. Цей розділ прямо забороняє такі практики.

Водночас цифрова держава потребує сильної кібербезпеки. Державні реєстри, виборчі системи, оборонні системи, дані громадян, медичні, освітні, податкові, соціальні та інші цифрові системи є частиною національної безпеки.

Головна ідея розділу: Україна має бути сучасною цифровою державою, але цифрова сила держави повинна бути обмежена гідністю людини, правом на приватність, прозорістю, пояснюваністю, судовим захистом і забороною цифрового рабства.