Atoms
Riferimenti

Risorse accademiche

Esplora la ricerca alla base di Atoms, inclusi la collaborazione multi-agente, il ragionamento degli LLM, l'aumento del contesto, l'ottimizzazione dei prompt e i flussi di lavoro automatizzati.

Atoms collabora con le migliori università e istituti di ricerca in tutto il mondo, producendo ricerche all'avanguardia su framework multi-agente, ragionamento degli LLM, aumento del contesto e flussi di lavoro automatizzati.

Questi lavori non solo portano avanti il progresso teorico, ma rafforzano anche le capacità di prodotto di Atoms in aree come la collaborazione multi-agente, l'interpretazione dei dati, il ragionamento potenziato da RAG e l'ottimizzazione dei prompt.

1. Non lo sai finché non clicchi: test GUI automatizzati per la valutazione di software pronti per la produzione

Abstract

Man mano che i large language model (LLM) e gli agenti di codice evolvono dalla generazione di frammenti isolati alla creazione di applicazioni complete con GUI, logica interattiva e comportamenti dinamici, i benchmark attuali non riescono a valutare efficacemente software pronti per la produzione. I controlli statici o gli script binari di superamento/fallimento trascurano l'usabilità nel mondo reale, che emerge solo attraverso l'interazione.

Per affrontare questo problema, gli autori introducono RealDevWorld, un framework di valutazione automatizzato end-to-end per testare la capacità degli LLM di generare repository pronti per la produzione da zero.

Contributi chiave

  • Primo framework di valutazione end-to-end basato su GUI per applicazioni pronte per la produzione.
  • Introduzione di RealDevBench, un benchmark con 194 attività ingegneristiche multimodali diversificate.
  • Proposta di AppEvalPilot, un sistema agent-as-a-judge che simula interazioni utente basate su GUI per una valutazione olistica.
  • Ottenuto un elevato allineamento umano (accuratezza 0.92, correlazione 0.85) riducendo al contempo la dipendenza dalla revisione manuale.

Per saperne di più: https://arxiv.org/abs/2508.14104

2. Progressi e sfide nei Foundation Agentes: dall'intelligenza ispirata al cervello a sistemi evolutivi, collaborativi e sicuri

Abstract

L'avvento degli LLM ha catalizzato un cambiamento trasformativo nell'IA, rendendo possibili agenti intelligenti capaci di ragionamento, percezione e azione in diversi domini. Progettare, valutare e migliorare continuamente tali agenti presenta sfide complesse e sfaccettate.

Questa survey fornisce una panoramica completa dei Foundation Agentes, inquadrati attraverso architetture modulari ispirate al cervello che integrano intuizioni provenienti da scienze cognitive, neuroscienze e computazione.

Contributi chiave

  • Propone un framework modulare che mappa i componenti degli agenti alle funzionalità cerebrali (memoria, modellazione, obiettivi, emozioni).
  • Esplora l'auto-miglioramento e l'adattamento continuo attraverso meccanismi evolutivi.
  • Esamina i sistemi multi-agente e l'intelligenza collettiva emergente.
  • Affronta le sfide di sicurezza, robustezza e allineamento nel deployment nel mondo reale.

Per saperne di più: https://arxiv.org/abs/2504.01990

3. Atom of Thoughts per il test-time scaling Markov degli LLM

Abstract

Gli LLM traggono beneficio dalla scalabilità durante l'addestramento, e il test-time scaling migliora ulteriormente il ragionamento. Tuttavia, il contesto storico accumulato può sprecare capacità di calcolo e ostacolare il ragionamento.

L'articolo introduce Atom of Thoughts (AoT), che scompone il ragionamento complesso in** sotto-domande atomiche e senza memoria**, formando un processo di ragionamento simile a Markov.

Contributi chiave

  • Definisce il ragionamento atomico: scomporre le domande in sottoproblemi DAG e contrarli.
  • Fornisce compatibilità come plug-in per i metodi di test-time scaling esistenti.
  • Migliora l'efficienza riducendo la ridondanza del contesto e lo spreco computazionale.
  • Dimostra significativi guadagni di prestazione su sei benchmark.

Per saperne di più: https://arxiv.org/abs/2502.12018

4. Self-Supervised Prompt Optimization (SPO)

Abstract

Prompt di alta qualità sono cruciali per migliorare il ragionamento degli LLM, ma la progettazione manuale dei prompt richiede competenza e iterazione. I metodi automatizzati esistenti dipendono fortemente da riferimenti etichettati, limitando l'applicabilità nel mondo reale.

SPO introduce un framework auto-supervisionato che scopre prompt efficaci sia per attività a risposta chiusa sia aperta senza riferimenti esterni.

Contributi chiave

  • Segnali auto-supervisionati derivati esclusivamente dagli output degli LLM.
  • Usa gli LLM sia come valutatore sia come ottimizzatore.
  • Raggiunge prestazioni state-of-the-art con 1–5% del costo dei metodi tradizionali.

Per saperne di più: https://arxiv.org/abs/2502.06855

5. Migliorare la fedeltà del contesto tramite Native Retrieval-Augmented Reasoning (CARE)

Abstract

Gli LLM spesso allucinano risposte incoerenti con il contesto fornito. Le soluzioni tradizionali richiedono o costosi dataset supervisionati oppure si basano su retrieval esterno che sfrutta poco il contesto fornito dall'utente.

CARE introduce un framework di native retrieval-augmented reasoning in cui gli LLM integrano dinamicamente le evidenze nel contesto direttamente nella catena di ragionamento.

Contributi chiave

  • Introduce il retrieval nel contesto come parte del processo di ragionamento.
  • Richiede dati etichettati minimi e usa curriculum learning per attività complesse.
  • Supera SFT, il RAG tradizionale e i metodi di retrieval esterno sui benchmark di QA.

Per saperne di più: https://openreview.net/forum?id=qTsU1QLOph

6. FACT: esaminare l'efficacia della riscrittura iterativa del contesto per il recupero di più fatti

Abstract

I Large Language Models (LLM) sono efficaci nel recuperare singoli fatti da contesti lunghi, ma faticano quando devono recuperare simultaneamente più fatti. Un limite chiave osservato è il fenomeno del “lost-in-the-middle”, in cui gli LLM perdono gradualmente traccia di informazioni importanti durante la generazione, portando a output incompleti o inaccurati.

Per affrontare questo problema, gli autori propongono Find All Crucial Texts (FACT) — un metodo iterativo di riscrittura del contesto che affina progressivamente l'input, consentendo al modello di catturare i fatti critici passo dopo passo.

Contributi chiave

  • Identifica e analizza il fenomeno del “lost-in-the-middle” nel recupero di più fatti.
  • Introduce FACT, un approccio iterativo di recupero e riscrittura che migliora incrementalmente la copertura fattuale.
  • Dimostra significativi miglioramenti prestazionali nei benchmark di recupero di più fatti, sebbene con miglioramenti minori nelle attività generali di QA.
  • Evidenzia la necessità di strategie più robuste nel recupero su contesti lunghi.

Per saperne di più: https://arxiv.org/abs/2410.21012

7. SELA: agenti LLM potenziati dalla ricerca ad albero per il machine learning automatizzato

Abstract

Gli agenti AutoML basati su LLM spesso generano pipeline poco diversificate e subottimali. SELA sfrutta Monte Carlo Tree Search (MCTS) per ottimizzare il processo decisionale degli agenti e l'esplorazione delle pipeline.

Contributi chiave

  • Applica metodi di ricerca ad albero per migliorare l'esplorazione AutoML.
  • Affina iterativamente le pipeline con feedback sperimentale.
  • Supera le baseline AutoML tradizionali e basate su agenti su 20 dataset.

Per saperne di più: https://arxiv.org/abs/2410.17238

8. AFlow: automatizzare la generazione di workflow agentici

Abstract

La costruzione di workflow agentici per gli LLM richiede molto lavoro e non è completamente automatizzata. AFlow riformula l'ottimizzazione dei workflow come un problema di ricerca su grafi di codice, usando MCTS per affinare iterativamente i workflow con feedback di esecuzione.

Contributi chiave

  • Definisce l'ottimizzazione dei workflow come ricerca su grafi di codice.
  • Consente a modelli più piccoli di superare GPT-4o a una frazione del costo.
  • Ottiene un miglioramento del 5.7% rispetto alle baseline state-of-the-art.

Per saperne di più: https://arxiv.org/abs/2410.10762

9. Data Interpreter: un agente LLM per la data science

Abstract

Gli approcci esistenti faticano con workflow end-to-end di data science, dipendenze dinamiche tra attività e requisiti di competenza di dominio.

Data Interpreter introduce:

  • Modellazione gerarchica a grafo: scompone i problemi in sottoproblemi con nodi dinamici.
  • Generazione di nodi programmabile: affina e valida iterativamente il codice per garantire robustezza.

Contributi chiave

  • Primo agente LLM progettato per workflow completi di data science.
  • Ottiene un miglioramento dell'accuratezza del 25% su InfiAgente-DABench.
  • Aumenta significativamente le prestazioni nel machine learning, nelle attività aperte e nel dataset MATH.

Per saperne di più: https://arxiv.org/abs/2402.18679

10. MetaGPT: Meta Programming per un framework collaborativo multi-agente

Abstract

I sistemi multi-agente basati su LLM spesso falliscono su attività complesse a causa di allucinazioni a cascata. MetaGPT codifica le Standard Operating Procedures (SOPs) in sequenze di prompt, semplificando i workflow e riducendo gli errori.

Contributi chiave

  • Introduce il meta-programming per la collaborazione multi-agente.
  • Incorpora workflow umani basati su SOP nei prompt degli agenti.
  • Consente un'assegnazione efficiente dei ruoli e la scomposizione delle attività.
  • Dimostra stabilità e accuratezza superiori nelle attività collaborative di ingegneria del software.

Per saperne di più: https://arxiv.org/abs/2308.00352

Questa pagina è stata utile?

Articoli correlati