[Java programming] - integer division in floating-point context

코딩 테스트 문제를 풀다가 로직이 틀린게 없는데 전부 0 값이 나와서 당황했다가 아주 바보같은 실수를 했기에 글로서 남기려고 한다.
모두 다 아는 개념일테지만, 수학공식 풀듯이 쓰니 자료형을 생각하지 않고, 풀게 되었다가 나오는 오류이다.

 

문제가 일어난 곳은 바로 할인율을 구하는 부분에서 일어났다. 관련 코딩테스트 문제로는 다음과 같다.

https://school.programmers.co.kr/learn/courses/30/lessons/150368

프로그래머스

 

할인율을 적용하여 총값을 구하는데, 총값이 모두 0이 나온 것이다.

한 30분 째 뭐가 틀린지 디버깅하다가 사소한 실수를 한 것을 발견했다.

 

40% DC 된 값  →  원가 * (( 100 - 40) / 100);

원가 * 0.6 을 하고 싶어, (( 100 - 40) / 100) 이 기대값이 0.6이 나오길 바랬지만, 애초에 몫을 구하는 / 연산이기 때문에 내가 원하는 0.6은 절대로 나올 수가 없다. 심지어 자료형 마저도 int 였다.

(주입식 교육의 폐해인가...🥲)

 

그럼 자료형만 float로 바꿔주면 될까?🤔 

float result2 = (100 - 40) / 100;

 

그것 또한 아니다. 정답의 자료형만 float로 바꿔주면 결과값 0 을 그냥 실수로 형변환 시켜줄 뿐이기 때문이다.

결과 값은 0.0이 나온다.

 

위와 같이 작성한다면, integer division in floating-point context 라는 IDE의 경고 문구를 확인할 수 있다.
이 경고는 "실수 연산 문맥에서 정수 나눗셈"을 의미한다. 일반적으로 수학적인 계산에서, 괄호 안의 연산을 수행하고 나서 나눗셈을 수행할 때 괄호를 사용하는 것은 연산 순서를 명확하게 나타내기 위한 것이다.

"(100 - 40) / 100"이라는 표현에서는 먼저 괄호 안의 연산인 "100 - 40"이 수행되어 60을 얻고, 그 결과를 100으로 나누게 된다. 이때, 나눗셈 연산은 일반적으로 실수 연산으로 간주되지만, "integer division in floating-point context"라는 표현은 실수 연산 문맥에서 정수 나눗셈을 의미한다.

실수 연산 문맥에서 정수 나눗셈은 정수를 정수로 나눌 때 나머지를 무시하는 것을 의미한다. 예를 들어, 60을 100으로 나눌 때 일반적인 나눗셈 결과는 0.6이지만, "integer division in floating-point context"에서는 0.6 대신에 정수 결과 0을 반환한다.

결과적으로 "(100 - 40) / 100"의 값은 0.6이 아니라 0이다.

float 해봤자 0.0이 나온다.

 

0.6을 얻고 싶으면 연산 자체를 실수 연산으로 형변환 시켜줘야한다.

물론 위 문제에선 실수 형변환해서 풀지 않고, 그냥 100으로 나눠도 몫이 나오게끔 큰 수 연산하고 100으로 나누었다. 이유는 간단하다. 형변환을 하는데에 리소스가 투자되기 때문이다. 굳이 안하고 풀수도 있는데, 더디게 연산할 필요가 없기 때문이다.

public class Note05 {
    public static void main(String[] args) {
        int result1 = (100 - 40) / 100;
        System.out.println(result1);

        float result2 = (100 - 40) / 100;
        System.out.println(result2);

        float result3 = (float) (100 - 40) / 100;
        System.out.println(result3);
    }
}