คุโด้ ชินอิจิ นักสืบนักเรียนมัธยมปลายวัย 17 ปีที่แอบชอบลูกสาวของโมริ โคโกโร่ ที่ชื่อ โมริ รันซึ่งคุโด้ ชินอิจิถูกขนานนามว่า “ยอดนักสืบแห่งปีเฮย์เซย์” ได้แอบดูการเจรจาลับของชายชุดดำ โดยไม่ระวังว่าชายชุดดำอีกคนได้แอบลอบทำร้ายด้านหลัง แล้วถูกจับกรอกยาพิษที่ระบุว่าถูกผลิตภายในองค์กรของพวกเขา แต่ยาพิษนั้นกลับทำให้ชินอิจิตัวเล็กลงจนกลายเป็นเด็กอายุ 7 ขวบและเปลี่ยนชื่อใหม่เป็น เอโดงาวะ โคนัน ด้วยความช่วยเหลือของดร.อากาสะ ฮิโรชิ และเพื่อสืบหาเบาะแสร่องรอยของชายชุดดำและเพื่อนำยาแก้พิษกลับมา จึงได้ไปอยู่กับโมริ รันเพื่อนตั้งแต่สมัยเด็กที่สำนักงานนักสืบโมริ ซึ่งพ่อของรัน โมริ โคโกโร่เป็นนักสืบเอกชน แต่ทว่าโคโกโร่เป็นนักสืบที่พึ่งพาไม่ได้เลย โคนันซึ่งเป็นร่างเด็กของชินอิจิจึงได้ใช้อุปกรณ์ที่ประดิษฐ์โดยดร.อากาสะ ฮิโรชิ ช่วยคลี่คลายคดีต่างๆแทนโคโกโร่เพื่อให้โคโกโร่มีชื่อเสียงขึ้นมา และรอผู้จ้างวานที่จะได้เบาะแสของชายชุดดำ ชินอิจิเพราะอยู่ในร่างของเด็กจึงต้องกลับไปเรียนชั้นประถมศึกษาปีที่ 1 ที่โรงเรียนประถมเทตันใหม่อีกครั้ง และได้ก่อตั้งขบวนการนักสืบเยาวชนกับเพื่อนร่วมชั้นอย่างโยชิดะ อายูมิ, ซึบุรายะ มิซึฮิโกะ, และโคจิมะ เก็นตะ การสืบหาชายชุดดำและยาแก้พิษของโคนันก็ได้ดำเรื่อยมา ได้เกิดคดีต่างๆและค้นพบบุคคลสำคัญต่างๆ ที่เกี่ยวข้องกับพวกชายชุดดำมากขึ้นอย่าง มิยาโนะ อาเคมิ หนึ่งในสมาชิกปลายแถวในองค์กรชุดดำ มิยาโนะ ชิโฮะหรือไฮบาระ ไอ อดีตสมาชิกองค์กรชุดดำ และนักวิทยาศาสตร์ผู้ประดิษฐ์คิดค้นยา APTX4869ที่ทำให้โคนันตัวเล็กลงอีกด้วย อย่างไรก็ดียอดนักสืบจิ๋วโคนันเป็นการ์ตูนเรื่องยาวที่มีการดำเนินเรื่องราวคดี, ความสัมพันธ์และความรักของตัวละคร, และองค์กรชุดดำที่ดำเนินไปอย่างช้าๆ โดยยังไม่มีการกล่าวถึงตอนจบแต่ประการใด