Ogni voce rimanda a un record pubblico che puoi verificare senza fidarti di me.
Ruolo: Autore unico
Stack: Python, Jupyter
Attacchi multi-step a un agente con strumenti per la gara Kaggle di OpenAI, con una nota di lavoro che verifica da sola i suoi 843 numeri.
Risultato51° su 4186 team, medaglia d'argento.
In parole sempliciSono arrivato 51° su 4186 team in una gara mondiale su come ingannare gli assistenti AI e spingerli ad azioni non sicure.
Ruolo: Autore e maintainer
Stack: Python, Jupyter, GGUF, Kaggle
Esperimenti riproducibili sui bit-flip nei pesi dei modelli linguistici: guasti casuali contro bit scelti, e se l'allineamento cede prima della capacità.
RisultatoDe-allineamento silenzioso non osservato: frazione di de-allineamento 0 a ogni dose, su entrambi i bracci (E5).
In parole sempliciEsperimenti su cosa succede a un modello AI quando piccoli errori ne danneggiano la memoria: smette di funzionare, o funziona ma smette di essere sicuro?
Ruolo: Autore e maintainer
Stack: Python, Kaggle Benchmarks
Benchmark difensivo: un agente autonomo rispetta il confine di autorizzazione quando un'istruzione ostile arriva dall'output di uno strumento?
RisultatoPubblicato su Kaggle Benchmarks: oracolo deterministico, nessun giudice LLM, 6 modelli, 114 run ciascuno.
In parole sempliciUn test pubblico che controlla se un assistente AI resta nei limiti di ciò che gli è permesso, anche quando una pagina o un file gli dice il contrario.
Ruolo: Autore e maintainer
Stack: Python, Kaggle Benchmarks
Risultati e note di ricerca del benchmark sulla disciplina di scope: sette modelli di frontiera misurati con un oracolo deterministico.
Risultato7 modelli di frontiera misurati, 63 run ciascuno; tasso di azioni offensive da 0.000 a 0.143.
In parole sempliciI risultati del test sui limiti: sette modelli AI di punta misurati allo stesso modo, con numeri e note che chiunque può ricontrollare.
Ruolo: Fondatore e maintainer unico
Stack: React, nginx, TLS
Sito di SigmaNex, piattaforma offline-first di intelligenza e comunicazione: AI locale, mesh LoRa cifrata, uso air-gapped. Frontend e server irrobustito.
RisultatoOnline su sigmanex.net, solo HTTPS con HSTS, CSP e header di sicurezza verificabili da chiunque.
In parole sempliciIl sito di un prodotto che ho costruito, un sistema di comunicazione e AI che funziona senza internet, fatto perché chiunque possa verificarne la sicurezza.
Aggiornato il