關于小提琴的起源，史學家有許多不同說法，有說是起源于北非，有說是起源于印度，也有說是起源于西歐等等。有這么一個傳說：5千年前斯里蘭卡有一位君主名叫瑞凡那，他把圓柱形的木頭掏空制成了與我國二胡極為相似的樂器稱瑞凡那斯特隆(Ravanastron)，在漫長的歷史長河中，瑞凡那斯特隆隨著貿易往來而流傳四方，這便是小提琴的鼻祖了。不過從有史料記載起，最早的小提琴是由一位住在意大利北部城鎮布里細亞(Brescia)名叫達薩洛制成的(Gaspa ro da salo 1542-1609)。但在同一個時期，格里蒙那(Cremona)城中的A．阿瑪蒂(AndreaAmatil520-1580)，也制作了與現代小提琴更為相近似的小提琴。從16世紀到18世紀，意大利的小提琴制造業隨著音樂藝術的空前繁榮而得到了迅速的發展，出現了G．P瑪基尼、N．阿瑪蒂、A．斯特拉第瓦利和C．爪內利四位杰出名匠。18世紀以后，世界各國的小提琴制造業都是仿照意大利這些小提琴制作者的琴型和尺寸來制作小提琴的。近百年來，小提琴的結構也沒什么大的改變，從這個意義上講，意大利是小提琴的故鄉。而瑪基尼、阿瑪蒂、斯特拉第瓦利、爪內利當年所制作的小提琴，現今已成了稀世珍寶、曠世杰作。
最早的現代意義上的小提琴大約產生于十六世紀中葉，那時的許多珍品現在還保存在歐洲一些博物館內。小提琴的起源可以追溯到2000多年前的埃及樂器“里拉”（Lyre），十五世紀，意大利人對其進行了改革，并用馬尾制成弓子拉奏，定名為Violin，即小提琴。后又經過多年演變，小提琴的形成與制作才基本固定下來.
近代小提琴約在1550年就已為人們所熟悉，系由當時流行的樂器雷貝克和臂提利拉琴演變而來。通常所說小提琴前身維奧爾,在構造、調弦、演奏技巧等方面,對現代小提琴的形成都無決定性影響。人們曾普遍認為意大利北部的米蘭、威尼斯、布雷西亞和克雷莫納一帶是小提琴的誕生地。16世紀后期，意大利的小提琴制作業出現了兩個著名的小提琴制作流派，一派是以阿馬蒂父子為代表的克雷莫納制琴派;另一派是以薩洛的加斯帕羅(1540～1609)和他的學生 G.P.馬吉尼為代表的布雷西亞制琴派。這兩派制作的小提琴各有特長，經歷了幾百年，至今仍屬上等珍品。
1650～1750年，是小提琴制作的黃金時代，出現了許多著名小提琴制作家，如N.阿馬蒂、J.斯坦納，以及被人們認為最杰出的制作家A.斯特拉迪瓦里和G.瓜爾內里等人。阿馬蒂所制小提琴的面板和背板弧度較大，音質好,用來演奏室內樂,有如明亮的女高音。18世紀后期，G.B.維奧蒂贊揚了斯特拉迪瓦里琴，維奧蒂的老師G.普尼亞尼與N.帕格尼尼喜愛瓜爾內里琴之后，這兩位制琴大師的作品才被人們所欣賞，并取得了巨大名望。斯特拉迪瓦里和瓜爾內里琴具有在大廳中演奏協奏曲時所需要的音響傳送力。
18世紀后，小提琴制作業的領先地位從意大利轉至法國。這個時期小提琴的造型不斷改進，已取得更大音量和更好的音質。法國制琴家N.呂波(1758～1824)以斯特拉迪瓦里為典范，把法國的制琴技術和意大利的制琴技術結合在一起。與此同時，法國的F.圖爾特（1747～1835）約在1785年對琴弓的長度、重量、形狀、裝置等方面又進行了重大改革。小提琴在這個時期的發展，反映了J.海頓、W.A.莫扎特和 L.van貝多芬作品中具有的歌唱性，以及運弓方面的更大變化等對小提琴性能上的要求。
1789～1799年，法國大革命之后，隨著貴族與皇室的衰落，音樂也從宮廷走向民間，出現了為公眾服務的交響樂隊和音樂廳。為適應環境的變革，小提琴需要增大音量。18世紀末～19世紀初,小提琴琴頸加長變細,并向后傾斜：指板變長；琴馬變高,并具更大的弧度；G弦早已包有銀絲。這些變革的目的是為適應更大的張力。琴弦的增長使琴面上的壓力增大，于是低音梁變長變厚，音柱也加粗，以此獲得更大更有力的聲音。1820年前后L.施波爾發明了腮托，使左手從完全承擔持琴的作用中解放出來。腮托的設置，使左手在換把、揉弦、按弦更加自如。
18世紀末，音樂學院在歐洲相繼出現，它使小提琴的需求量大大增加，從而促進了機器制琴業的發展。法國的米爾庫、德國的米滕瓦爾德都是大量生產小提琴的地方。法國的J.-B.維約姆是 19世紀制琴業的著名人物。
維約姆雇用一些工人,在他的指導下制造小提琴,并以其名為牌號出售。他從世界各地搜集到許多散失在私人手中的優質琴，把它們送到演奏家、收藏家的手中，或者是博物館。
巴洛克時期的德國偉大作曲家巴哈曾于1720年為小提琴創作了六首無伴奏作品：三首奏鳴曲，三首古組曲，是小提琴獨奏曲的精華。今天請朋友們欣賞的是：巴哈的《 E大調前奏曲》，選自其第三首無伴奏組曲，由20世紀杰出小提琴家Itzhak Perlman 于1988年錄制。它使用的是Guarneri – Gesu 小提琴，制作于1740年。
西洋小提琴傳入中國是在清朝末年（約1920年代）。民國初，學堂音樂教育興起，人們對外國音樂發生興趣。從1920年代開始，世界著名小提琴大師先后到中國演出，鼓舞了許多熱愛音樂的青年學習小提琴，并隨之在北京，上海，廣州，福建等地創立了音樂專科；許多高水平的小提琴家來華工作，同時也培養了眾\多中國自己的教師和演奏家，如：馬思聰，劉天華，冼星海和黎國荃等。從這一時期開始，也陸續出版和翻譯了不少《小提琴演奏法》，并有作曲家創作出許多經典的中國小提琴曲，像是《梁祝》和《苗嶺的早晨》等，都是由上海音樂學院教授陳剛先生所作。