尾張国愛知郡中村に、百姓をしていた木下弥右衛門と、なかの子として生まれました。百姓ではなく、織田家の足軽をしていた家系だったとも言われています。生年月日は諸説がありますが、現在では天文6年2月6日とする説が有力とされています。幼い頃に父、木下弥右衛門がこの世を去り、なかは織田信秀の同朋衆をしていた竹阿弥と再婚しますが、秀吉とは折り合いが悪く、虐待されていたために、侍になるべく、家を出て駿河国に行ったとされています。

今川家の家臣をしていた時代は、木下藤吉郎と名乗っていました。今川氏の直臣の飯尾氏の配下、引馬城支城の頭蛇寺城城主、松下之綱に使え、今川家の陪臣（臣下の臣下）になりました。目をかけてもらっていた藤吉郎でしたが、すぐに辞めてしまいます。1,554年頃から織田信長の奉公人として仕え始めます。率先して清洲しろの普請奉行、台所奉行などを引き受け、大きな成果をあげました。こうして信長の歓心を買い、織田家の中で頭角を現していきます。1,561年に、浅野長勝の養女、杉原定利の娘ねねと結婚します。やがて、竹中重治、川並衆の蜂須賀子六、前野長康らを自分の配下に組み入れています。1,568年には近江箕作城攻略戦で活躍し、信長の上洛のときには明智光秀、丹波長秀らと、京都での政務を任されています。このときの文書に、『秀吉』の名乗りが見られます。1,570年には越前国の朝倉義景討伐に従軍し、浅井長政の裏切りで挟み撃ちにされると言う危機に陥りますが、秀吉は池田勝正や明智光秀としんがりとして軍の最後尾を勤め、功績をあげました。その後も浅井、朝倉戦でも功績をあげています。

浅井氏が滅亡すると、今浜の土地を長浜と改め、長浜城の城主になります。丹波長秀と柴田勝家から一文字ずつをもらい、木下姓から羽柴姓に改め、羽柴秀吉としています。人材発掘にも積極的で、旧浅井家家臣団や石田三成などの、将来有望とされる若者を登用していました。1,576年、信長に、越後国の上杉謙信とにらみ合いを続けている柴田勝家の救援を命じられますが、作戦を巡って勝家と言い争いになってしまい、勝手に帰還してしまいました。このとき勝家は上杉謙信に敗れています。（手取川の戦い）その後も信貴山城の戦い、上月城の戦い、三木合戦、鳥取城の戦い、高松城の水攻めなど、数多くの戦いで功績をあげ、『城攻めの名手秀吉』と呼ばれるようになります。

秀吉と勝家の対立は益々激しくなっていきます。秀吉が宝寺城を築き、山崎と丹波で検地をし、織田家の大名と私的に誼（親しくすること）を結んでいったためと思われます。勝家は織田信考らと共に、諸大名に対して秀吉への弾劾状をばら撒きます。弾劾状とは、不正をはっきりさせ、責任を取らせることをいいます。これに対し秀吉は、信長の四男で養子の羽柴秀勝を喪主として、信長の葬儀を執り行うことで切り抜けました。 信長の葬儀から2ヵ月後、雪で動くことのできない越前の勝家を見てチャンス到来とし、5万の兵を引き連れて勝家お養子、柴田勝豊の守る長浜城を包囲しました。勝豊は元々勝家と、同じ養子の柴田勝政と不仲な上、自分自身も病気で床に臥していたために、秀吉に応じて簡単に降伏しました。更に美濃に侵攻し、織田信雄軍の合流などもあって兵力が増し、信考の家老、斉藤利堯が守っている加治木城を攻めて降伏させました。信考は岐阜城に孤立してしまい、三法師を引き渡し、生母と娘を人質として差し出すことで和議を結びました。