전화했을 때 정기예금에 가입할 고객을 잘 골라내는 모델을 만…
누구나 볼 수 있는 공개 기록입니다. 읽기 전용.
사용자의 요구
전화했을 때 정기예금에 가입할 고객을 잘 골라내는 모델을 만들어줘
대화
- ML 엔지니어 36,171행, 17개 항목을 읽었습니다. 답의 기준은 ‘정기예금가입’ 열로 잡았습니다. 아래에서 맞는지 확인해 주세요.
- 질문한 사람 전화했을 때 정기예금에 가입할 고객을 잘 골라내는 모델을 만들어줘
- ML 엔지니어 요청 원문으로 확인되지 않은 해석이 있어, 확인된 내용만 남겨 다시 정리하고 있습니다. 학습은 아직 시작하지 않았습니다.
- ML 엔지니어 등록 과제(bank-trial)의 목표 열은 정기예금가입, 지표는 balanced_accuracy, 허용 입력은 통화시간초를 제외한 15개 열로 호스트가 이미 정했습니다. 사용자 원문은 '전화했을 때 정기예금에 가입할 고객을 잘 골라내는 모델'을 요청할 뿐 입력 열 목록을 명시하지 않았으므로, task_brief에는 입력 열 인용을 넣지 않습니다. 기술 선택으로 안전 입력 열 전체(available_columns), 행 단위 예측, 특징 그룹 단위 평가, iid_feature_groups_60_20_20_v1 분할, balanced_accuracy, model 제공을 제안합니다. 다음 행동은 이 결정을 DECISION.json에 기록하는 것입니다.
- ML 엔지니어 첫 모델을 만듭니다. 여러 방법을 시험해 가장 나은 것을 고르고, 마지막에 처음 보는 데이터로 한 번 더 확인합니다.
- ML 엔지니어 하네스 기본 후보를 시험했습니다. 균형 정확도 73.7%. 지금까지 가장 좋습니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 다음에 시험할 방법을 정했습니다. 기준선은 순서 없는 범주형 변수를 임의 순서의 정수 코드로 처리하고 있습니다. 원-핫 인코딩과 이전 캠페인 결과 파생 변수로 범주 구조를 보존하면 같은 데이터·같은 평가 계약에서 성능 향상을 기대할 수 있어 개선 실험을 제안합니다.
- ML 엔지니어 후보 2번을 시험했습니다. 균형 정확도 74.1%. 지금까지 가장 좋습니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 다음에 시험할 방법을 정했습니다. t2가 최고 성능이지만 개선 폭이 작아, 전처리는 유지하고 모델 용량만 키워 핵심 신호의 상호작용 학습을 시도합니다.
- ML 엔지니어 후보 3번을 시험했습니다. 균형 정확도 73.9%. 이전 후보가 더 좋아 그대로 둡니다. 최종 확인은 마지막에 처음 보는 데이터로 합니다.
- ML 엔지니어 점수가 오르지 않아 방향을 다시 봅니다. 같은 방향을 반복하지 않고, 남은 예산으로 다른 방법을 시험할지 지금까지 가장 좋은 후보로 마칠지 정합니다.
- ML 엔지니어 가장 좋은 후보로 마무리합니다. 에이전트가 후보 3개를 시험한 뒤 더 시험하지 않기로 했습니다(최대 4개). 남은 예산 9,999,500원 중 40원을 최종 확인에 씁니다. 지금까지 가장 좋은 후보만 처음 보는 데이터로 최종 확인합니다.
- ML 엔지니어 최종 확인을 마쳤습니다. 모델이 학습에 쓰지 않은 데이터에서 균형 정확도 73.1%입니다. 아래 보관된 모델 카드에서 이 결과로 예측을 시험해 볼 수 있습니다.
- 질문한 사람 가입할 고객을 더 많이 찾아줘. 놓치는 가입자를 줄여줘
- ML 엔지니어 가입할 고객을 더 많이 찾고 놓치는 가입자를 줄이는 방향으로 새 후보를 만들어 보겠습니다. 이전캠페인결과·연락시점 같은 핵심 신호의 비선형 상호작용을 더 잘 학습하도록 모델 용량과 학습률을 조정하고, 가입(예) 클래스에 가중을 두어 놓치는 비율을 낮추는 쪽으로 시도합니다. 같은 평가 데이터를 두 번 쓰지 않도록 최종 점수는 다시 재지 않고, 개발 데이터로만 비교합니다. 개선 시도를 시작했습니다. 새 후보를 만들어 개발 데이터로 비교한 뒤 결과를 여기에 알려드립니다.
- ML 엔지니어 개선 후보 4번을 만듭니다. 요청: 가입(예) 클래스를 덜 놓치도록 핵심 신호의 상호작용 학습을 강화하고 가입 클래스에 가중을 둔 새 후보를 만들어 개발 데이터로 비교해줘
- 질문한 사람 지금 어디까지 했어?
- ML 엔지니어 지금 '가입(예) 클래스를 덜 놓치도록 핵심 신호의 상호작용 학습을 강화하고 가입 클래스에 가중을 둔 새 후보를 만들어 개발 데이터로 비교해줘' 요청으로 개선 후보를 시험하고 있습니다 (최대 4개 중 1번째). 후보 4번: 만들고 시험하는 중입니다. 끝나면 결과를 여기에 알려드리고, 그 뒤에 질문에 답할 수 있습니다.
- ML 엔지니어 개선 후보 4번을 시험했습니다. 개발 점수 73.0% (-1.1%p) · '예'를 놓친 비율 37% → 30%지만, 전체 점수 변화가 -2.0%p ~ -0.1%p라 허용 폭(-2.0%p) 이상 떨어지지 않았다고 확신할 수 없어 채택하지 않습니다. 요청한 쪽만 좋아지고 전체가 나빠지는 모델일 수 있습니다.
- ML 엔지니어 개선 후보 5번을 만듭니다. 요청: 가입(예) 클래스를 덜 놓치도록 핵심 신호의 상호작용 학습을 강화하고 가입 클래스에 가중을 둔 새 후보를 만들어 개발 데이터로 비교해줘
- ML 엔지니어 개선 후보 5번을 시험했습니다. 개발 점수 71.3% (-2.8%p) · '예'를 놓친 비율 37% → 27%지만, 전체 점수 변화가 -3.8%p ~ -1.9%p라 허용 폭(-2.0%p) 이상 떨어지지 않았다고 확신할 수 없어 채택하지 않습니다. 요청한 쪽만 좋아지고 전체가 나빠지는 모델일 수 있습니다.
- ML 엔지니어 개선 후보 6번을 만듭니다. 요청: 가입(예) 클래스를 덜 놓치도록 핵심 신호의 상호작용 학습을 강화하고 가입 클래스에 가중을 둔 새 후보를 만들어 개발 데이터로 비교해줘
- ML 엔지니어 개선 후보 6번을 시험하지 못했습니다. 학습 코드가 실행 중 오류를 냈습니다. 오류를 보고 한 번 고쳐 봅니다.
- ML 엔지니어 개선 후보 6번의 오류를 고칩니다. 학습 중 난 오류를 에이전트에게 보여주고 코드를 한 번 고쳐 같은 조건으로 다시 시험합니다.
- ML 엔지니어 개선 후보 7번을 시험하지 못했습니다. 학습 코드가 실행 중 오류를 냈습니다. 오류를 보고 한 번 고쳐 봅니다.
- ML 엔지니어 새 후보 4개를 시험했지만 확실히 나은 후보가 없어 기존 모델(개발 점수 74.1%)을 그대로 둡니다. 가장 나은 후보 4번도 개발 점수 73.0%(-1.1%p)로, '예'를 놓친 비율 37% → 30%지만, 전체 점수 변화가 -2.0%p ~ -0.1%p라 허용 폭(-2.0%p) 이상 떨어지지 않았다고 확신할 수 없어 채택하지 않습니다. 요청한 쪽만 좋아지고 전체가 나빠지는 모델일 수 있습니다. 최종 점수는 원래 모델의 1회 측정값(73.1%)을 그대로 둡니다. 다른 방향으로 더 해보려면 "한 번 더 해봐"처럼 말해 주세요.
- 질문한 사람 나이 45살 관리직, 잔고 1500유로, 지난 통화 300초인 고객은 가입할까?
- ML 엔지니어 나이 45, 직업 관리직, 연평균잔액 1500, 지난 통화 300초로 읽었습니다. 보관된 모델로 직접 예측한 결과입니다 (말하지 않은 항목은 빈 값으로 넣었습니다): 1) 나이=45, 연평균잔액=1500, 직업=관리직 → 정기예금가입: 아니오