Multikollinearitet beskriver når to features har en perfekt lineær korrelation med hinanden. Vi kan altså forudsige den ene værdi, hvis vi kender den anden. Hvis to features er perfekt korreleret med hinanden, bør man fjerne den ene, da intet information går tabt, og multikollineære variable kan reducere modellens performance.