שלמה ארצי נולד בעשרים ושישי לנובמבר 1949 בקיבוץ אלוני אבא. עד גיל שמונה הוא גר ברמת ישראל וכאשר היה בן שמונה הוא ומשפחתו עבור לשכונת צהלה בצפונה של תל אביב. כילד בבית הספר היסודי הצטיין שלמה ארצי דווקא במשחק ולמוסיקה הוא הגיע בגיל שתיים עשרה כאשר החל לנגן על גיטרה ולשיר בלהקת הצופים. בגיל שש עשרה הוא הקים יחד עם חברתו לספסל הלימודים רבקה מנשה את "צמד סיני". לימים, נודעה חברתו לצוות כזמרת ריקי גל.
לאחר שהתקבל אמנם ללהקה צבאית, התגייס שלמה ארצי לשייטת שם שירת זמן קצר אך עבר עקב השילוב בין פחד גבהים והצורך לעבור קורס צניחה לחיל התותחנים. בחיל התותחנים הקים את להקת התותחנים ומשם הגיע ללהקת חיל הים.
כאשר הגיע ללהקה היא הייתה באמצע סיבוב ההופעות "וביום השלישי" והוא השתלב אחד מחברי הלהקה ללא תפקיד מיוחד, אך במופע הבא של הלהקה "רפסודה בכחול" ארצי כבר בלט ככוכב ושר כסולן מספר להיטים גדולים בינהם "אנשי הדממה" ו"כשאהיה גדול". השיר "כשאהיה גדול" לווה בוידאו קליפ בכיכובו של ארצי - והיה לאחד מהוידאו קליפים הראשונים שנעשו בארץ. במקביל, להקת התותחנים הצליחה גם היא במצעדים עם שיר שהוא כתב "תפילת התותחן".
עוד לפני שיחררו מהצבא הופיע וזכה בפרס ראשון בפסטיבל הזמר והפזמון לשנת 1970 עם השיר "פתאום עכשיו פתאום היום", הידוע גם כ"אהבתיה", אותו כתבה תרצה אתר והלחין יעקב הולנדר.
עם שחרורו מצה"ל הקים שלמה ארצי חברת הפקות ביחד עם מיכאל תפוח ואיתן גפני שנקראה "אירה המקליטה", והוציא אלבום ראשון שנקרא "שלמה ארצי" . בנוסף על ההקלטות וההופעות הוא גם השתתף בפסטיבל שירי הילדים עם השיר "ארץ פומפורנל", שר בסרט "מלכת הכביש", הופיע בהצגה "אברהם אבינו נגד שרה אמנו" שם גם שר בדואט עם שושנה דמארי "ציפור ציפור" ועם מכבי נתניה את "מה מה נה נה", ולראשונה נבחר להיות זמר השנה.
בשנתיים הבאות לאחר השנה הפוריה הראשונה הוציא שלמה ארצי עוד שלושה אלבומים: "על אנשים", "פתאום אחר ימים רבים" ואלבום ילדים בשם "טיול לארץ התוים".
בשנת 1973 חלו שני שינויים מהותיים בקריירה המוקדמת של שלמה ארצי: הוא החליף חברת התקליטים בה הקליט עד אותו הזמן, חברת ישראדיסק, בחברת הד ארצי, ובנוסף הקים את להקת גברת תפוח על שמו של מיכאל תפוח. 1973 הייתה גם שנת מלחמת יום כיפור בה הרבה שלמה ארצי להופיע עם להקתו, להקת גברת תפוח, בפני חיילים. בשנת 1973 זכה שלמה ארצי בשניה בתואר זמר השנה.
לאחר המלחמה ובעקבותיה הוציא את האלבום "לכל החברים מהמסע מים אל ים" ובשנת 1974 הופיע וזכה עם השיר "הבלדה על ברוך ג'מילי" בפסטיבל הזמר והפזמון. בשנת 1975 נבחר לייצג את ישראל בארוזיון בשוודיה שם שר את "את ואני" שלא זכה להצלחה רבה, והוציא תוך שבועיים אלבום בשם "את ואני" שאמור היה לרכב על גלי הצלחת שיר הנושא. לכבוד יום הולדתו העשרים ושש הוציא אלבום שנקרא "משחקי 26" שאף הוא כשל, ב-1976 את "יש לי אשה ילדה ולמברטה", וב- 1977 את האלבום "רומאנסה ופיוט" שכלל בעיקר שירים עממים ופיוטים שתורגמו מלאדינו. כל שלושת אלבומים אלו לא הצליחו.
ואז התחילה הקריירה האמיתית של שלמה ארצי. עד הזמן האחרון העדיף שלמה ארצי לשכוח ולהתעלם מכל השנים הראשונות שקדמו ל"גבר הולך לאיבוד", אך לאחרונה בשנת 2008 הוציאה חברת הד ארצי מארז המכיל את רב אלבומיו הראשונים ונקרא "השנים הראשונות" ובקרוב יעלה המחזמר "לילה לא שקט" המבוסס על שיריו.