Generative AI in the Public Sector under the AI Act: Challenges and Opportunities for Procurement

L’articolo analizza le sfide e le opportunità legate all’integrazione dell’IA Generativa nel settore pubblico alla luce dell’AI Act europeo. La GenAI presenta un notevole potenziale per migliorare l’efficienza amministrativa, ma solleva anche rilevanti questioni giuridiche e operative, in particolare nell’ambito dell’approvvigionamento pubblico. Considerando la fase del procurement come punto d’ingresso strategico, lo studio adotta un approccio ispirato alla tutela del diritto a una buona amministrazione. Dopo una disamina dei profili tecnici e normativi della GenAI, l’articolo analizza tre modelli di approvvigionamento: sviluppo interno, ricorso a fornitori privati tramite servizi di abbonamento e soluzioni ibride. Analizza le conseguenze di ciascun modello in termini di economicità, trasparenza, imparzialità, protezione dei dati e cybersicurezza. Inoltre, prende in considerazione le EU Model Contractual Clauses for AI Procurement, pubblicate nel marzo 2025. L’articolo conclude auspicando l’adozione di modelli ibridi e su scala ridotta come modalità responsabile di introduzione della GenAI nel settore pubblico.

The article delves into the challenges and opportunities of integrating Generative AI into the public sector within the regulatory framework set forth by the EU AI Act. GenAI offers promising potential for improving administrative efficiency. However, it also raises legal and operational issues, especially in the context of public procurement. Framing procurement as a critical entry point, this study adopts a rights-based approach anchored in the right to good administration. Following a review of the technical and regulatory foundations of GenAI, the article assesses three procurement models: in-house development, reliance on private suppliers via subscription services, and hybrid solutions. In this regard, it scrutinises the consequences of each of these models in terms of cost-effectiveness, transparency, impartiality, data protection and cybersecurity. Moreover, it touches upon the EU Model Contractual Clauses for AI Procurement, published in March 2025. The article concludes by advocating hybrid (and small-scale) approaches as the most responsible for the deployment of GenAI in the public sector