‘churn’ 열을 예측해줘. 다음 달에 어떤 고객이 떠날지…
누구나 볼 수 있는 공개 기록입니다. 읽기 전용.
사용자의 요구
‘churn’ 열을 예측해줘. 다음 달에 어떤 고객이 떠날지 알고 싶어
대화
- ML 엔지니어 1,200행, 7개 항목을 읽었습니다. 답의 기준은 ‘churn’ 열로 잡았습니다. 아래에서 맞는지 확인해 주세요.
- 질문한 사람 ‘churn’ 열을 예측해줘. 다음 달에 어떤 고객이 떠날지 알고 싶어
- ML 엔지니어 요청 원문으로 확인되지 않은 해석이 있어, 확인된 내용만 남겨 다시 정리하고 있습니다. 학습은 아직 시작하지 않았습니다.
- ML 엔지니어 'churn' 열을 예측하는 이진 분류 작업으로 계획합니다. 정답 열은 churn이며, 한 고객 행 단위로 이탈 여부를 예측합니다. 입력은 호스트가 허용한 전체 안전 특징 열을 사용하고 customer_id는 식별자로 제외합니다. 스키마에 시간·날짜 열이 없어 '다음 달'은 별도 시점 열 없이 현재 데이터 분포 기준 예측으로 해석하며, 행 독립(IID) 가정의 한계를 기록합니다. 지표는 balanced_accuracy, 분할은 iid_feature_groups_60_20_20_v1, 평가 단위는 unique_feature_group, 결과 제공은 model로 제안합니다. 다음 행동은 이 결정을 DECISION.json에 기록하는 것입니다.
- ML 엔지니어 첫 모델을 만듭니다. 여러 방법을 시험해 가장 나은 것을 고르고, 마지막에 처음 보는 데이터로 한 번 더 확인합니다.
- ML 엔지니어 하네스 기본 후보를 시험했습니다. 균형 정확도 62.2%. 지금까지 가장 좋습니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 다음에 시험할 방법을 정했습니다. 기준선은 범주형 열을 순서형 코드로만 처리해 범주별 이탈 위험 차이를 충분히 반영하지 못할 수 있습니다. 원-핫 인코딩과 결측 지표 추가로 같은 모델 계열 안에서 개선 여부를 검증합니다.
- ML 엔지니어 후보 2번을 시험했습니다. 균형 정확도 65.2%. 지금까지 가장 좋습니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 다음에 시험할 방법을 정했습니다. 현재 최고 모델은 단일 HGB입니다. 같은 전처리를 유지하되 모델 계열을 랜덤 포레스트 앙상블로 바꿔 세그먼트별 이탈 신호를 더 잘 포착하는지 검증합니다.
- ML 엔지니어 후보 3번을 시험했습니다. 균형 정확도 62.1%. 이전 후보가 더 좋아 그대로 둡니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 가장 좋은 후보로 마무리합니다. 정해진 시도 횟수를 모두 썼습니다. 지금까지 가장 좋은 후보만 처음 보는 데이터로 최종 확인합니다.
- ML 엔지니어 최종 확인을 마쳤습니다. 모델이 학습에 쓰지 않은 데이터에서 균형 정확도 66.6%입니다. 아래 보관된 모델 카드에서 이 결과로 예측을 시험해 볼 수 있습니다.
- 질문한 사람 왜 이 점수가 나왔어?
- ML 엔지니어 최종 확인 점수는 학습에 쓰지 않은 데이터 239건에서 측정한 균형 정확도 66.6%입니다. 균형 정확도는 클래스별로 맞힌 비율을 평균한 값이라, 이탈 고객과 잔류 고객을 비슷한 수준으로 구분했다는 뜻입니다. 이 모델은 하네스가 만든 기본 모델(t1, 62.2%)을 넘어선 에이전트가 만든 후보(t2, 65.2%)를 골라 마무리한 결과입니다.
- 질문한 사람 어떤 항목이 결과에 가장 큰 영향을 줬어?
- ML 엔지니어 영향도는 개발 데이터 239건에서 각 항목 값을 섞었을 때 균형 정확도가 얼마나 떨어지는지로 측정했습니다. 상담 횟수(support_calls)가 13.2%p로 가장 컸고, 가입 기간(tenure_months) 2.1%p, 월 요금(monthly_fee) 0.4%p 순이었습니다. 나이(age)와 요금제(plan)는 각각 -0.4%p, -0.5%p로 영향이 거의 없었습니다. 다만 영향이 크다고 해서 그것이 이탈의 원인이라는 뜻은 아닙니다.
- 질문한 사람 support_calls 4, tenure_months 59, monthly_fee 13.65이면 결과가 어떻게 나와?
- ML 엔지니어 상담 횟수 4, 가입 기간 59개월, 월 요금 13.65로 읽었습니다. 보관된 모델로 직접 예측한 결과입니다 (말하지 않은 항목은 빈 값으로 넣었습니다): 1) monthly_fee=13.65, support_calls=4, tenure_months=59 → churn: no
- 질문한 사람 이 모델 믿고 써도 돼?
- ML 엔지니어 최종 확인 점수는 학습에 쓰지 않은 데이터 239건에서 측정한 균형 정확도 66.6%입니다. 균형 정확도는 클래스별로 맞힌 비율을 평균한 값이라, 이탈 고객과 잔류 고객을 비슷한 수준으로 구분했다는 뜻입니다. 다만 이 점수는 개발 데이터 239건에서 측정한 영향도와 별개로, 학습에 쓰지 않은 데이터에서 한 번만 확인한 값이라 그대로 믿고 쓰기에는 근거가 제한적입니다. 이 대화에서는 재학습이나 새 평가를 바로 실행하지 않으니, 다른 데이터 파일로 새 작업을 만들어 다시 확인해보는 방법을 제안할 수 있습니다.
- 질문한 사람 더 좋게 만들 수 있어?
- ML 엔지니어 이 대화에서는 재학습이나 새 평가를 바로 실행하지 않으니, 지금 점수를 더 올리는 작업은 여기서 할 수 없습니다. 대신 왼쪽 '+ 새 작업'으로 다른 데이터 파일을 올려 새 모델을 만들어볼 수 있고, 이미 쓴 같은 파일은 평가 데이터가 섞이지 않도록 새 작업에 다시 쓸 수 없습니다. 참고로 지금 보관된 모델은 하네스가 만든 기본 모델(t1, 개발 점수 62.2%)보다 나은, 에이전트가 만든 후보(t2, 개발 점수 65.2%)이고, 학습에 쓰지 않은 데이터 239건에서 측정한 최종 균형 정확도는 66.6%입니다.
- 질문한 사람 결과를 엑셀로 받을 수 있어?
- ML 엔지니어 엑셀 파일로 바로 내보내는 기능은 없습니다. 대신 대화 아래 '보관된 모델' 카드의 '모델·소스 받기'에서 학습된 전처리·모델 파일과 학습 소스, 실행 안내를 zip으로 내려받을 수 있고, 같은 카드의 '예측해보기'에서는 한 건 직접 입력하거나 JSON, CSV·JSON 파일(최대 100건, 2MB)로 예측해 결과를 표로 볼 수 있습니다.