L'attività di ricerca è svolta prevalentemente nel campo dell'ottimizzazione non lineare, con un
occhio di riguardo al caso non differenziabile, su cui è stata anche incentrata la tesi di dottorato, dal
titolo "Metodi Numerici per la Minimizzazione di Funzioni Convesse non Differenziabili" (1998).
In particolare sono state studiate e messe a punto tecniche di tipo "bundle" per l'ottimizzazione
convessa [5, 7, 12,15] e non convessa [3,
4, 13], ognuna delle quali corredata da risultati
numerici effettuati sulle principali funzioni test non differenziabili, presenti in letteratura.
Fra i lavori sopra citati occupano un posto di particolare rilievo gli articoli [4], [12]
ed [15]. In [4] è stato messo a punto un algoritmo per la minimizzazione di funzioni
non convesse non differenziabili, basato su un modello di tipo "trust region". Il corrispondente codice, denominato NCVX,
è stato implementato in Fortran 77 nell'ambito del
progetto FIRB "Large Scale Nonlinear
Optimization". In [12] è descritto un metodo bundle non monotono per
la minimizzazione di funzioni convesse: tale approccio, che consente di effettuare anche passi
potenzialmente intermedi fra i classici "serious step" e "null step", è basato sul decremento,
a ogni iterazione, di una particolare funzione di merito, cosa che non necessariamente corrisponde a un
decremento della funzione obiettivo da minimizzare. Infine, in [15] è stato introdotto
un metodo bundle per risolvere problemi di minmax semi-infinito, caratterizzato dalla possibilità di
risolvere in maniera approssimata il problema interno di massimizzazione.
Un'applicazione interessante delle tecniche di ottimizzazione non differenziabile è nel campo dei
problemi di classificazione, molti dei quali hanno una natura intrinsecamente non differenziabile
[9, 18]. In questo contesto il codice NCVX
è stato
utilizzato per la minimizzazione
di funzioni di errore, non convesse e non differenziabili, presenti in alcuni problemi
di classificazione di tipo semisupervisionato: i risultati
numerici ottenuti sui principali database presenti in letteratura
si sono rivelati competitivi e sono stati pubblicati in [8, 14].
Altri lavori [10, 11, 16, 19, 26, 32]
hanno avuto come obiettivo l'utilizzo di superfici sferiche nei problemi di classificazione.
In particolare, in [10] sono state usate tecniche di tipo DC (Difference of Convex functions)
per la minimizzazione della funzione di errore, mentre in [11] il concetto di margine,
usato in ambito SVM (Support Vector Machine), è stato esteso al caso della separazione sferica. In [16]
la separazione sferica è stata applicata al caso semisupervisionato, mentre in [19] al caso robusto,
in cui si tiene conto del fatto che i dati da classificare possono essere soggetti a incertezza o a errori di misurazione.
In [26] è stato proposto un algoritmo di separazione sferica,
in cui il centro della sfera è fissato infinitamente lontano da entrambi gli insiemi da separare, utilizzando
la teoria del grossone. In [32] la separazione sferica è stata estesa a problemi di clustering, dando luogo a un algoritmo basato sulla risoluzione, a ogni iterazione,
di un problema dei trasporti.
Un'altra applicazione dell'ottimizzazione non differenziabile ai problemi di classificazione è riportata
in [17], dove il concetto di traiettoria prossimale introdotto in [5] è alla base di un
algoritmo per la cross-validation in ambito SVM (Support Vector Machine).
Nell'ambito dei problemi di Machine Learning, un altro filone di ricerca più recente è costituito dai
cosiddetti problemi di "Multiple Instance Learning (MIL)",
il cui obiettivo consiste nel classificare insiemi di punti. Per questo tipo di problemi, la cui caratteristica principale consiste
nel fatto che, nella fase di learning, sono note solo le etichette dei singoli insiemi ma non dei punti che li costituiscono,
in [22] è stato messo a punto un algoritmo di classificazione binaria basato su una tecnica di rilassamento lagrangiano.
Tale algoritmo è stato preliminarmente applicato alla classificazione di immagini [20,21] e
successivamente testato nella diagnostica di melanomi, ottenendo buoni risultati come testimoniato in [24].
In [23] lo stesso problema
è stato invece affrontato tramite tecniche di tipo DC. In [27] è stata proposta una nuova
tecnica MIL basata sulla costruzione di un iperpiano di separazione situato al centro fra due iperpiani paralleli,
uno prossimale alle istanze dei bag positivi e uno di supporto alle istanze dei bag negativi. Tale approccio è stato esteso in [35]
all'uso di funzioni kernel con l'obiettivo di generare superfici di separazione non lineari. In [29]
è stato proposto un approccio di tipo multisfera, in cui il numero di sfere di separazione è automaticamente determinato dall'algoritmo, mentre in [30]
è stato presentato un approccio MIL di separazione lineare, basato sulla risoluzione di un problema di ottimizzazione non differenziabile in una sola variabile,
ottenuto prefissando in maniera euristica la normale all'iperpiano di separazione. Infine, in [34], è stato applicato un approccio di tipo poliedrale.
Spostandoci sull'ottimizzazione differenziabile, in [2] sono state messe a punto delle
tecniche per problemi di ottimizzazione non lineare non vincolata basate sulla possibilità
di utilizzare una combinazione delle ben note formule SR1 e BFGS.
Un'altra linea di ricerca riguarda l'applicazione dell'ottimizzazione alla logistica, con riferimento
a casi aziendali. In [6] è stato esaminato un problema di trasporto merci multiperiodale
nato all'interno di una multinazionale chimica. In particolare, è stata sviluppata un'euristica di tipo
"cutting plane" che richiede la risoluzione, a ogni iterazione, di un problema di Programmazione
Lineare Intera "semplificato". In [1] è stato trattato un problema di ottimizzazione della catena produttiva in un'azienda manifatturiera
produttrice di capi di abbigliamento. Tale problema ha riguardato il "ribilanciamento"
ottimo del sistema di produzione, tenendo conto dell'attitudine di ciascun operaio a svolgere una
determinata mansione e della possibile assenza di personale che quindi deve essere sostituito. Le
tecniche utilizzate hanno portato alla risoluzione di modelli di ottimizzazione lineare e di problemi
di scheduling di tipo "open-shop".
Infine, in [25] e in [31] è stato trattato un problema di scheduling su singola macchina a due agenti,
ciascuno dei quali caratterizzato da un proprio insieme di job. In particolare, l'obiettivo del problema è stato
quello di bilanciare il più possibile i tempi medi di completamento fra i due insiemi,
prima nell'ipotesi che tutti i job siano caratterizzati dallo stesso tempo di processamento [25] e successivamente per il
caso in cui i job hanno tempi di processamento non necessariamente uguali [31].
[35]
The semiproximal SVM approach for multiple instance learning: a kernel-based computational study.
Optimization Letters, 18(2), pp. 635–649, 2024
(in collaborazione con M. Avolio).
[34]
Maximum-margin polyhedral separation for binary multiple instance learning.
EURO Journal on Computational Optimization, 11, article 100070, 2023
(in collaborazione con A. Astorino e M. Avolio).
[33]
On detection of diabetic retinopathy via multiple instance learning.
Proceedings of the 27st International Database Engineered Applications Symposium -
IDEAS 2023, ACM, New York, NY, USA, pp. 170-176, 2023 (in collaborazione con M. Avolio, E. Vocaturo ed E. Zumpano).
[32]
Partitional clustering via successive transportation problems.
Operations Research Letters, 51(1), pp. 40-46, 2023
(in collaborazione con A. Astorino, M. Avolio, A. Canino e T. Crupi).
[31]
A Lagrangian heuristics for balancing the average weighted completion times of two classes of jobs in a single-machine scheduling problem.
EURO Journal on Computational Optimization, 10, article 100032, 2022
(in collaborazione con M. Avolio).
[30]
A heuristic approach for multiple instance learning by linear separation.
Soft Computing, 26, pp. 3361–3368, 2022
(in collaborazione con M. Gaudioso, W. Khalaf ed E. Vocaturo).
[29]
A maximum-margin multisphere approach for binary multiple instance learning.
European Journal of Operational Research, 299(2), pp. 642-652, 2022
(in collaborazione con A. Astorino e M. Avolio).
[28]
Viral pneumonia images classification by multiple instance learning: preliminary results.
Proceedings of the 25th International Database Engineering & Applications Symposium -
IDEAS 2021, ACM, New York, NY, USA, pp. 292-296, 2021 (in collaborazione con M. Avolio, E. Vocaturo ed E. Zumpano).
[27]
A semiproximal support vector machine approach for binary multiple instance learning.
IEEE Transactions on Neural Networks and Learning Systems, 32(8), pp. 3566-3577, 2021
(in collaborazione con M. Avolio).
[26]
Spherical separation with infinitely far center.
Soft Computing, 24, pp. 17751-17759, 2020
(in collaborazione con A. Astorino).
[25]
A subset-sum type formulation of a two-agent single-machine scheduling problem.
Information Processing Letters, 155, article 105886, 2020 (in collaborazione con M. Avolio).
[24]
Melanoma detection by means of multiple instance learning.
Interdisciplinary Sciences: Computational Life Sciences, 12(1), pp. 24-31, 2020 (in collaborazione con A. Astorino, P. Veltri ed E. Vocaturo).
[23]
SVM-based multiple instance classification via DC optimization.
Algorithms, 12(12), article 249, 2019 (in collaborazione con A. Astorino, G. Giallombardo e G. Miglionico).
[22]
A Lagrangian relaxation approach for binary multiple
instance classification.
IEEE Transactions on Neural Networks and Learning Systems, 30(9), pp. 2662-2671, 2019 (in collaborazione con A. Astorino e M. Gaudioso).
[21]
A multiple instance learning algorithm for color images classification.
Proceedings of the 22nd International Database Engineering & Applications Symposium -
IDEAS 2018, ACM, New York, NY, USA, pp. 262-266, 2018 (in collaborazione con A. Astorino, M. Gaudioso ed E. Vocaturo).
[20]
On a recent algorithm for multiple instance learning. Preliminary applications in
image classification. 2017 IEEE International Conference on Bioinformatics and Biomedicine (BIBM), pp. 1615-1619, 2017
(in collaborazione con A. Astorino, P. Veltri ed E. Vocaturo).
[19]
Robust spherical separation.
Optimization, 66(6), pp. 925-938, 2017
(in collaborazione con A. Astorino, I. Bomze e M. Gaudioso).
[18]
Nonlinear programming for classification problems in machine learning .
AIP Conference Proceedings, Vol. 1776, Art. n. 040004, 2016 (in collaborazione con A. Astorino e M. Gaudioso).
[17]
The
proximal trajectory algorithm in SVM cross validation.
IEEE Transactions on Neural Networks and Learning Systems, 27(5), pp. 966-977, 2016 (in collaborazione con A. Astorino).
[16]
Semisupervised spherical separation. Applied Mathematical Modelling,
39(20), pp. 6351-6358, 2015 (in collaborazione con A. Astorino).
[15]
A partially inexact bundle method for convex semi-infinite
minmax problems. Communications in Nonlinear Science and Numerical Simulation, 21(1-3), pp. 172-180, 2015 (in collaborazione
con M. Gaudioso, G. Giallombardo e G. Miglionico).
[14]
Support vector machine polyhedral separability in semisupervised learning. Journal of
Optimization Theory and Applications, 164(3), pp. 1039-1050, 2015 (in collaborazione con A.
Astorino).
[13]
A splitting bundle approach for nonsmooth nonconvex minimization. Optimization, 64(5),
pp. 1131-1151, 2015 (in collaborazione con M. Gaudioso e E.A. Nurminski).
[12]
A nonmonotone proximal bundle method with (potentially) continuous step decisions.
SIAM Journal on Optimization, 23(3), pp. 1784-1809, 2013 (in collaborazione con A. Frangioni,
A. Astorino e E. Gorgone).
[11]
Margin maximization in spherical separation. Computational Optimization and Applications, 53(2),
pp. 301-322, 2012 (in collaborazione con A. Astorino e M. Gaudioso).
[10]
DC models for spherical separation. Journal of Global Optimization, 48(4), pp. 657-669,
2010 (in collaborazione con A. Astorino e M. Gaudioso).
[9]
Non-smoothness in classification problems. Optimization Methods and Software, 23(5), pp.
675-688, 2008 (in collaborazione con A. Astorino e E. Gorgone).
[8]
Nonsmooth optimization techniques for semisupervised classification. IEEE Transactions
on Pattern Analysis and Machine Intelligence, 29(12), pp. 2135-2142, 2007 (in collaborazione con
A. Astorino).
[7]
A bundle modification strategy for convex minimization. European Journal of Operational
Research, 180(1), pp. 38-47, 2007 (in collaborazione con A.V. Demyanov e G. Miglionico).
[6]
Integrated shipment dispatching and packing problems: a case study. Journal of Mathematical Modelling and Algorithms,
6(1), pp. 77-85, 2007 (in collaborazione con A. Attanasio, G.
Ghiani e C. Triki).
[5]
Tuning strategy for the proximity parameter in convex minimization. Journal of Optimization Theory and Applications,
130(1), pp. 95-112, 2006 (in collaborazione con M. Gaudioso).
[4]
Minimizing nonconvex nonsmooth functions via cutting planes and proximity control. SIAM
Journal on Optimization, 14(3), pp. 743-756, 2004 (in collaborazione con M. Gaudioso e G.
Giallombardo).
[3]
A DC piecewise affine model and bundling technique in nonconvex nonsmooth minimization.
Optimization Methods and Software, 19(1), pp. 89-102, 2004 (in collaborazione con M. Gaudioso e
G. Giallombardo).
[2]
On the performance of switching BFGS/SR1 algorithms for unconstrained optimization.
Optimization Methods and Software, 19(2), pp. 153-164, 2004 (in collaborazione con M. Al-Baali e
R. Musmanno).
[1]
A three-stage load balancing model in a manufacturing company. Journal of Information
and Optimization Sciences, 25(1), pp. 177-187, 2004 (in collaborazione con A. Grieco, R. Musmanno
e M. Ramundo).