Prawo Nowych Technologii

nr 2/2021

Ostatnie zmiany w ramach prawnych dla sztucznej inteligencji w Unii Europejskiej – krytyczna analiza

Michał Nowakowski
Autor jest radcą prawnym, Head of NewTech @ NGL Advisory, Co-founder Ceforai Sp. z o.o.; ORCID: 0000-0002-8841-6566.
Abstrakt

„This is the best reason to learn history: not in order to predict the future, but to free yourself of the past and imagine alternative destinies. Of course this is not total freedom – we cannot avoid being shaped by the wpast.
But some freedom is better than none”.
Yuval Noah Harari, Homo Deus: A Brief History of Tomorrow
„To jest najlepszy powód, by uczyć się historii: nie po to, by przewidywać przyszłość, ale by uwolnić się od przeszłości i wyobrazić sobie alternatywne losy. Oczywiście nie jest to całkowita wolność – nie możemy uniknąć bycia kształtowanym przez przeszłość. Ale pewna wolność jest lepsza niż żadna”.
Yuval Noah Harari, Homo Deus: Krótka historia jutra
Sztuczna inteligencja nie jest już tylko modnym słowem, przynajmniej w sensie prawnym. Ostatni projekt Komisji (UE) w sprawie sztucznej inteligencji otworzył szerszą publiczną dyskusję na temat powstających technologii, odpowiedzialności, etyki i potencjalnych negatywnych skutków, jakie mogą one wywierać na człowieka. Głównym celem artykułu jest przedstawienie wybranych obszarów, które obejmuje projekt rozporządzenia, a które dotyczą m.in. zakazanych praktyk, definicji AI i systemów AI wysokiego ryzyka oraz odpowiednich wymogów dla twórców takich systemów. Zawiera również komentarz na temat konieczności opracowania wytycznych sektorowych dla sektora finansowego. Celem publikacji nie było omówienie wszystkich tematów ujętych w projekcie, ale raczej uwzględnienie obszarów niejasnych, które – jeśli zostaną przyjęte – mogą prowadzić do niepewności prawnej i czysto teoretycznie wpływać na rozwój innowacji.



Abstract

Recent developments in the AI legal framework in the European Union – a critical analysis

Artificial Intelligence is not a buzzword anymore, at least in a legal sense. The recent proposal by the (EU) Commission on Artificial Intelligence has opened a broader public discussion about emerging technologies, liability, ethics and potential adverse effects they may have on human beings. The main goal of the article is to present selected areas that are covered by the draft regulation that concerns, among other things, prohibited practices, the definition of AI and high-risk AI systems, as well as relevant requirements for developers of such systems. It also provides comments about the need to develop sectoral guidance for the financial sector. The purpose of the publication is not to cover all topics included in the project but rather to tackle ‘fuzzy’ areas which – if adopted – may lead to legal uncertainty and purely theoretically affect the development of innovations.Słowa kluczowe: sztuczna inteligencja, nowe technologie, SI, regulacja, prawa człowiekaKey words: artificial intelligence, new technologies, AI, regulation, human rights