Dual-use upstream e qualità della regolazione: come l'autorità epistemica dei modelli si stabilizza prima del deployment

The dual-use nature of artificial intelligence is often treated as a ‘downstream’ problem, one thatarises at the point of deployment or misuse. This paper argues otherwise: a significant proportionof the dual-use risk arises ‘upstream’, in the modelling, training and validation practices that con-fer epistemic authority upon systems prior to their adoption. Design choices, data selection andevaluation criteria do not operate as neutral technical steps, but rather establish what counts asadmissible evidence and reliable output, facilitating the legitimate circulation of these very arte-facts across diverse institutional contexts. In this context, adoption in high-impact settings tendsto shift responsibility away from human and organisational collectives towards the “model” asthe presumed bearer of decisions. Under these conditions, regulation focused exclusively on de-ployment intervenes on systems whose epistemic credibility has already been established. Thepaper therefore proposes considering dual-use as a problem of cross-context circulation of epis-temic artefacts and suggests three levers for quality of regulation aimed at intervening upstream:benchmark governance, auditable data traceability and minimum contestability requirements. (PDF) Dual-use upstream e qualità della regolazione: come l’autorità epistemica dei modelli si stabilizza prima del deployment. Available from: https://www.researchgate.net/publication/406884834_Dual-use_upstream_e_qualita_della_regolazione_come_l'autorita_epistemica_dei_modelli_si_stabilizza_prima_del_deployment [accessed Jul 10 2026].

Il dual-use dell’intelligenza artificiale viene spesso trattato come un problema “a valle”, che emerge al momento dell’impiego o del riuso improprio. Questo contributo difende una tesi diversa: una quota rilevante del rischio dual-use si produce “a monte”, nelle pratiche di modellizzazione, training e validazione che conferiscono ai sistemi un’autorità epistemica prima dell’adozione. Design choices, selezione dei dati e criteri valutativi non operano come passaggi tecnici neutrali, ma stabilizzano ciò che conta come evidenza ammissibile e output affidabile, predisponendo la circolazione legittima degli stessi artefatti tra contesti istituzionali eterogenei. In tale quadro, l’adozione in ambiti ad alto impatto tende a dislocare la responsabilità dai collettivi umani e organizzativi verso il “modello” come presunto portatore di decisioni. In queste condizioni, la regolazione centrata esclusivamente sul deployment interviene su sistemi la cui credibilità epistemica è già stata stabilizzata. Il contributo propone quindi di considerare il dual-use anche come un problema di circolazione cross-contesto di artefatti epistemici e suggerisce tre leve di quality of regulation orientate a intervenire upstream: governance dei benchmark, tracciabilità auditabile dei dati e requisiti minimi di contestabilità.