Действия выполняются по порядку слева направо. Из-за того, что первым операндом является строка, осуществляется конкатенация (склеивание) строк.
Чтобы получить математически корректный пример, можно изменить порядок действий с помощью скобок:

System.out.println("2 + 2 = " + (2 + 2));