On olemassa erilaisia yhdistelmämenetelmiä, mukaan lukien:
- Pakkaus (Bootstrap Aggregating): Pussittaminen on ensemble-menetelmä, joka luo harjoitustiedoista useita bootstrapped-näytteitä. Jokaista bootstrapped-näytettä käytetään perusmallin kouluttamiseen, ja sitten perusmallien ennusteista lasketaan keskiarvo lopullisen ennusteen tekemiseksi.
- Boosting (Adaptive Boosting): Boosting on ensemble-menetelmä, joka kouluttaa perusmalleja peräkkäin. Jokainen perusmalli opetetaan samoilla harjoitustiedoilla, mutta tiedot painotetaan uudelleen jokaisen mallin harjoittelun jälkeen. Edellisen mallin väärin luokittelemat tietopisteet saavat suuremman painoarvon, joten seuraavat mallit keskittyvät näihin tietopisteisiin.
- Satunnaiset metsät: Satunnaiset metsät ovat kokonaisuusmenetelmä, joka rakentaa joukon päätöspuita. Kutakin päätöspuuta opetetaan harjoitusdatan eri osajoukon perusteella, ja lopullinen ennuste tehdään enemmistöäänestyksellä tai yksittäisten päätöspuiden ennusteiden keskiarvolla.
Ensemble-menetelmät ovat usein tarkempia kuin yksittäiset mallit, koska ne voivat auttaa vähentämään mallin varianssia ja harhaa. Niillä voidaan myös parantaa mallin kestävyyttä, koska ne voivat auttaa estämään mallin liiallista sovittamista harjoitustietoihin.