Skip to main content

Table 1 Comparison of predictive performance of models for SF2 in CCLE and GDSC

From: Prediction of radiosensitivity and radiocurability using a novel supervised artificial neural network

 

Methods

Training (RMSE)

Testing (RMSE)

 

Mean

CV1

CV2

CV3

CV4

CV5

Mean

CV1

CV2

CV3

CV4

CV5

CCLE

ANN-SCGP

0.0943

0.1083

0.0805

0.0757

0.1175

0.0893

0.1587

0.1578

0.1733

0.1750

0.1435

0.1441

ANN

0.0479

0.0681

0.0305

0.0421

0.0501

0.0489

0.1716

0.1671

0.2004

0.1638

0.1621

0.1648

LM

0.0000

0.0000

0.0000

0.0000

0.0000

0.0000

1.9304

0.8530

0.7878

2.6586

1.1412

4.2116

SVM

0.0342

0.0208

0.0883

0.0208

0.0209

0.0201

0.1986

0.2155

0.2028

0.1826

0.2042

0.1882

RF

0.0746

0.0694

0.0734

0.0785

0.0738

0.0781

0.1871

0.2087

0.2161

0.1639

0.1848

0.1619

RSI

0.4186

0.4200

0.4231

0.4137

0.4336

0.4023

0.4167

0.4132

0.3999

0.4386

0.3559

0.4761

PLS

0.0000

0.0000

0.0000

0.0000

0.0000

0.0000

0.1834

0.1831

0.2114

0.1790

0.1758

0.1676

LASSO LM

0.1434

0.1627

0.1406

0.1372

0.1825

0.0942

0.1830

0.2068

0.2261

0.1580

0.1889

0.1355

Elastic Net

0.1402

0.1765

0.1389

0.1082

0.1811

0.0962

0.1870

0.2116

0.2272

0.1687

0.1891

0.1385

GDSC

ANN-SCGP

0.0993

0.0935

0.1017

0.0852

0.1056

0.1104

0.1654

0.2099

0.1845

0.1183

0.1511

0.1628

ANN

0.0433

0.0431

0.0479

0.0394

0.0524

0.0340

0.1826

0.2224

0.1928

0.1684

0.1771

0.1522

LM

0.0000

0.0000

0.0000

0.0000

0.0000

0.0000

28.4256

41.6402

90.0651

0.9031

8.8523

0.6675

SVM

0.0604

0.0204

0.0864

0.0869

0.0218

0.0865

0.2020

0.2633

0.2042

0.1539

0.1848

0.2040

RF

0.0790

0.0697

0.0811

0.0830

0.0825

0.0790

0.2049

0.2697

0.2284

0.1662

0.1603

0.1998

RSI

0.4437

0.4478

0.4535

0.4428

0.4506

0.4240

0.4412

0.4276

0.4026

0.4485

0.4158

0.5115

PLS

0.0000

0.0000

0.0000

0.0000

0.0000

0.0000

0.2252

0.2457

0.2116

0.2044

0.2300

0.2345

LASSO LM

0.2014

0.1977

0.2046

0.2191

0.1857

0.1997

0.2089

0.2578

0.2636

0.1598

0.1620

0.2012

ElasticNet

0.1843

0.1882

0.2046

0.2237

0.1907

0.1143

0.2128

0.2580

0.2636

0.1646

0.1625

0.2154

  1. ANN Artificial neural networks, LM Linear regression model, SVM Support vector machine, PLS Partial least squares, RF Random forest, RSI Radiosensitivity index in Torres-Roca's study, CV Cross validation, RMSE Root mean squared error