האיזכורים הראשונים של כלי נגינה הדומים לגיטרות קדומות שייכים לאלף השני לפני הספירה. הכינור השומרי, המוזכר בתנ"ך, גם הוא לפי התאורים יכול להיות אבי הגיטרה. כלי נגינה נוספים בעלי צוואר ארוך ומיתרים היו ידועים במצרים העתיקה, בהודו, ביוון וברומא העתיקה.
הכלים הקדומים האלה היו בעלי גוף מוארך ועמוק, המשמש כתיבת תהודה, וצוואר ארוך עליו נמתחו המיתרים. גופן של טרום-גיטרות היה שלם, ועשוי מדלעת מיובשת, שריון של צב או גוש עץ מלא מגורז. במאה השלישית והרביעית לספירה בסין מופיעים כלי נגינה בהן הגוף הורכב מחלקי עץ. בהשפעתם, באירופה הופיעו גיטרות לטיניות ומאוריטניות במאה השישית לספירה.
מקורה של המילה גיטרה הוא בשתי מילים המגיעות משתי שפות שונות: המילה סנגיטה בסנסקריט שמשמעותה מוזיקה, והמילה טר בפרסית העתיקה, שמשמעותה מיתר. לפי גרסה אחרת, מקורה של המילה גיטרה במילה קוטור הסנסקריטית, שמשמעותה בעל ארבעה מיתרים. ביוון העתיקה ניגנו בכלי מיתר שנקרא קיטרה, בעלת ארבעה מיתרים. המילה גיטרה כפי שאנחנו מכירים היום הופיעה לראשונה בספרות הארופאית במאה ה-13.
בימי הביניים הגיטרה התפתחה בעיקר בספרד מגיטרה לטינית שמקורה ברומא העתיקה ומגיטרה מאוריטנית שהובאה על ידי הכובשים הערבים. במאה ה-15 הומצאה הגיטרה הספרדית, המאופיינת בחמישה מיתרים כפולים ועוד מיתר בודד. לקראת סופה של המאה ה-18 לגיטרה הספרדית יש 6 מיתרים בודדים וארכיון שלם של יצירות מוזיקליות, שרבות מהן נכתבו על ידי המלחין האיטלקי ג'וליאני.
במהלך המאה ה-19 מבנה הגיטרות משתנה. אומנים רבים מנסים לשדרג את מימדי הגיטרה, מחפשים את הצורה האידאלית, מנסים שיטות שונות לחיבור השחיף, וכדומה. במאה ה-19 אנטוניו טורס, אומן הגיטרות הספרדי, מגיע לצורתה המוכרת כיום של הגיטרה. גיטרות המיוצרות בהתאם להוראותיו של טורס קרויות גיטרות קלאסיות, ושומרות על צורתן עד עצם היום הזה.
במאה העשרים התפתחה הגיטרה ואומנות הנגינה בה מאוד. סגנונות מוזיקליים רבים מבוססים על שימוש בגיטרות קלאסיות בוריאציות שונות. גיטרה חשמלית, המבוססת על עקרון שונה וחדשני של הגברת הצליל, הפכה לבסיס האינסטרומנטלי של מוזיקת הרוק והמטאל. ניתן לומר שהגיטרה הפכה להיות לאחד מכלי הנגינה הפופולריים ביותר, ומוכרת בעולם כולו.