AI Dictionary › Fondamenti AI

Feature engineering

Feature engineering is the process of creating, transforming or combining the input variables of a machine learning model to make them more informative for the problem at hand. It is often the work that makes the difference between a mediocre model and an excellent one: a sophisticated algorithm fed poorly represented raw data produces worse results than a simple model with well-built features.

Definition

What it is

Feature engineering is the process of creating, transforming or combining the input variables of a machine learning model to make them more informative for the problem at hand. It is often the work that makes the difference between a mediocre model and an excellent one: a sophisticated algorithm fed poorly represented raw data produces worse results than a simple model with well-built features.

How it works

The process starts from domain knowledge: age can be derived from a birth date, distance from the city center from an address, average frequency or time since the last order from a time series of purchases. It also includes encoding categorical variables into numeric form, creating interactions between existing features, and extracting recurring patterns from text or time-based data. Every new feature is then evaluated based on how much it actually improves the model's performance.

Applications

In applied AI, feature engineering remains crucial especially for tabular data, where gradient boosting and random forest models still dominate: credit scoring builds solvency indicators, fraud detection builds ratios of amounts to transaction frequency, demand forecasting builds seasonal and calendar variables. In deep learning applied to images and text, part of this work is done automatically by the network, but the choice of which raw data to feed it remains decisive.

History & etymology

The expression feature engineering spread through the machine learning and data mining community starting in the 1990s and 2000s, as the practice of manually building good input variables came to be recognized as a discipline in its own right, distinct from choosing the algorithm. Feature comes from the Old French faiture, shape or form, while engineering underlines the systematic, engineering-like nature of the work of designing variables.

Definizione (italiano)

Il feature engineering è il processo di creare, trasformare o combinare le variabili in ingresso di un modello di machine learning per renderle più informative rispetto al problema da risolvere. È spesso il lavoro che fa la differenza tra un modello mediocre e uno eccellente: un algoritmo sofisticato con dati grezzi mal rappresentati produce risultati peggiori di un modello semplice con caratteristiche ben costruite.

Il processo parte dalla conoscenza del dominio applicativo: da una data di nascita si può ricavare l'età, da un indirizzo la distanza dal centro città, da una serie temporale di acquisti la frequenza media o il tempo trascorso dall'ultimo ordine. Comprende anche la codifica di variabili categoriche in forma numerica, la creazione di interazioni tra caratteristiche esistenti, e l'estrazione di pattern ricorrenti da dati testuali o temporali. Ogni nuova caratteristica viene poi valutata in base a quanto migliora effettivamente le prestazioni del modello.

Nell'AI applicata il feature engineering resta cruciale soprattutto per i dati tabellari, dove i modelli di gradient boosting e random forest continuano a dominare: nel credit scoring si costruiscono indicatori di solvibilità, nel rilevamento frodi rapporti tra importi e frequenza delle transazioni, nella previsione della domanda variabili stagionali e di calendario. Nel deep learning applicato a immagini e testo, parte di questo lavoro viene svolta automaticamente dalla rete, ma la scelta di quali dati grezzi fornire resta comunque decisiva.

L'espressione feature engineering si diffonde nella comunità di machine learning e data mining a partire dagli anni '90 e 2000, quando la pratica di costruire manualmente buone variabili in ingresso viene riconosciuta come una disciplina a sé, distinta dalla scelta dell'algoritmo. Feature, caratteristica in inglese, deriva dal francese antico faiture, forma o fattura, mentre engineering sottolinea la natura ingegneristica e sistematica del lavoro di progettazione delle variabili.

Related terms

More in Fondamenti AI

Put it into practice

From our network

Magellano GPS — Fleet Tracking Made Simple

Real-time GPS tracking, remote engine lock, fuel and CO₂ reporting for your fleet.

Visit magellanogps.com →

From the Agora Intelligence blog

More on agora-intelligence.com →

📱 Download the Android app (beta) iOS coming soon

Say what you mean. Get what you need.

Grace Certified — the AI coach that trains and certifies your prompt engineering — by Agora Intelligence.