Upload 16 files

fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/config_st.yaml

@@ -0,0 +1,19 @@
+bpe_tokenizer:
+  bpe: sentencepiece
+  sentencepiece_model: ./spm_unigram8000_st.model
+input_channels: 1
+input_feat_per_channel: 80
+specaugment:
+  freq_mask_F: 27
+  freq_mask_N: 1
+  time_mask_N: 1
+  time_mask_T: 100
+  time_mask_p: 1.0
+  time_wrap_W: 0
+transforms:
+  '*':
+  - utterance_cmvn
+  _train:
+  - utterance_cmvn
+  - specaugment
+vocab_filename: spm_unigram8000_st.txt

fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/data/tst-COMMON/txt/tst-COMMON.en

@@ -0,0 +1,32 @@
+Back in New York, I am the head of development for a non-profit called Robin Hood.
+When I'm not fighting poverty, I'm fighting fires as the assistant captain of a volunteer fire company.
+Now in our town, where the volunteers supplement a highly skilled career staff, you have to get to the fire scene pretty early to get in on any action.
+I remember my first fire.
+I was the second volunteer on the scene, so there was a pretty good chance I was going to get in.
+But still it was a real footrace against the other volunteers to get to the captain in charge to find out what our assignments would be.
+When I found the captain, he was having a very engaging conversation with the homeowner, who was surely having one of the worst days of her life.
+Here it was, the middle of the night, she was standing outside in the pouring rain, under an umbrella, in her pajamas, barefoot, while her house was in flames.
+The other volunteer who had arrived just before me -- let's call him Lex Luther --
+(Laughter)
+got to the captain first and was asked to go inside and save the homeowner's dog.
+The dog! I was stunned with jealousy.
+Here was some lawyer or money manager who, for the rest of his life, gets to tell people that he went into a burning building to save a living creature, just because he beat me by five seconds.
+Well, I was next.
+The captain waved me over.
+He said, "Bezos, I need you to go into the house. I need you to go upstairs, past the fire, and I need you to get this woman a pair of shoes."
+(Laughter)
+I swear.
+So, not exactly what I was hoping for, but off I went -- up the stairs, down the hall, past the 'real' firefighters, who were pretty much done putting out the fire at this point, into the master bedroom to get a pair of shoes.
+Now I know what you're thinking, but I'm no hero.
+I carried my payload back downstairs where I met my nemesis and the precious dog by the front door.
+We took our treasures outside to the homeowner, where, not surprisingly, his received much more attention than did mine.
+A few weeks later, the department received a letter from the homeowner thanking us for the valiant effort displayed in saving her home.
+The act of kindness she noted above all others: someone had even gotten her a pair of shoes.
+In both my vocation at Robin Hood and my avocation as a volunteer firefighter, I am witness to acts of generosity and kindness on a monumental scale, but I'm also witness to acts of grace and courage on an individual basis.
+And you know what I've learned?
+They all matter.
+So as I look around this room at people who either have achieved, or are on their way to achieving, remarkable levels of success, I would offer this reminder: don't wait.
+Don't wait until you make your first million to make a difference in somebody's life.
+If you have something to give, give it now.
+Serve food at a soup kitchen. Clean up a neighborhood park.
+Be a mentor.

fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/data/tst-COMMON/txt/tst-COMMON.hi

@@ -0,0 +1,32 @@
+न्यूयॉर्क में वापस, मैं रॉबिन हुड नामक एक गैर-लाभकारी संस्था के विकास का प्रमुख हूं।
+जब मैं गरीबी से नहीं लड़ रहा हूं, तो मैं स्वयंसेवी फायर कंपनी के सहायक कप्तान के रूप में आग से लड़ रहा हूं।
+अब हमारे शहर में, जहां स्वयंसेवक एक अत्यधिक कुशल कैरियर स्टाफ के पूरक हैं, आपको किसी भी कार्रवाई में शामिल होने के लिए आग के दृश्य पर बहुत जल्दी पहुंचना होगा।
+मुझे अपनी पहली आग याद है।
+मैं इस दृश्य पर दूसरा स्वयंसेवक था, इसलिए मेरे अंदर आने का एक अच्छा मौका था।
+लेकिन फिर भी यह अन्य स्वयंसेवकों के खिलाफ एक वास्तविक पदयात्रा थी जो प्रभारी कप्तान के पास यह पता लगाने के लिए थी कि हमारा कार्य क्या होगा।
+जब मैंने कप्तान को पाया, तो वह गृहस्वामी के साथ बहुत ही आकर्षक बातचीत कर रहा था, जो निश्चित रूप से उसके जीवन के सबसे बुरे दिनों में से एक था।
+यहाँ यह आधी रात थी, वह बारिश में बाहर, एक छतरी के नीचे, अपने पजामे में, नंगे पाँव खड़ी थी, जबकि उसका घर आग की लपटों में था।
+दूसरा स्वयंसेवक जो मुझसे ठीक पहले आया था -- चलो उसे लेक्स लूथर कहते हैं --
+(हँसी)
+पहले कप्तान के पास गया और उसे अंदर जाकर गृहस्वामी के कुत्ते को बचाने के लिए कहा गया।
+कुत्ता! 
+यहाँ कोई वकील या मनी मैनेजर था, जो अपने पूरे जीवन के लिए लोगों को बताता है कि वह एक जलती हुई इमारत में एक जीवित प्राणी को बचाने के लिए गया था, सिर्फ इसलिए कि उसने मुझे पाँच सेकंड से पीटा।
+खैर, मैं अगला था।
+कप्तान ने मुझे लहराया।
+उन्होंने कहा, "बेज़ोस, मैं चाहता हूं कि आप घर में जाएं। मैं चाहता हूं कि आप ऊपर जाएं, आग को पार करें, और मैं चाहता हूं कि आप इस महिला को एक जोड़ी जूते दिलवाएं।"
+(हँसी)
+कसम है।
+तो, ठीक वैसा नहीं जैसा मैं उम्मीद कर रहा था, लेकिन मैं चला गया - सीढ़ियों से ऊपर, हॉल के नीचे, 'असली' अग्निशामकों के पीछे, जो इस बिंदु पर आग बुझाने के लिए बहुत कुछ कर चुके थे, मास्टर बेडरूम में 
+अब मुझे पता है कि तुम क्या सोच रहे हो, लेकिन मैं हीरो नहीं हूं।
+मैं अपना पेलोड वापस नीचे की ओर ले गया जहाँ मैं अपने दास और कीमती कुत्ते से सामने के दरवाजे से मिला।
+हम अपने खजानों को बाहर गृहस्वामी के पास ले गए, जहां आश्चर्य की बात नहीं कि मेरे खजानों की तुलना में उनका अधिक ध्यान गया।
+कुछ सप्ताह बाद, विभाग को गृहस्वामी की ओर से एक पत्र प्राप्त हुआ जिसमें उन्होंने उसके घर को बचाने के लिए किए गए साहसिक प्रयास के लिए हमें धन्यवाद दिया।
+दयालुता का कार्य उसने अन्य सभी से ऊपर देखा: किसी ने उसे एक जोड़ी जूते भी दिलवाए थे।
+रॉबिन हुड में मेरे व्यवसाय और स्वयंसेवी फायर फाइटर के रूप में मेरे व्यवसाय दोनों में, मैं एक बड़े पैमाने पर उदारता और दयालुता के कृत्यों का साक्षी हूं, लेकिन मैं व्यक्तिगत आधार पर अनुग्रह और साहस के कार्यों का भी गवाह हूं।
+और आप जानते हैं कि मैंने क्या सीखा है?
+वे सब मायने रखते हैं।
+इसलिए जब मैं इस कमरे के चारों ओर ऐसे लोगों को देखता हूं, जिन्होंने या तो सफलता के उल्लेखनीय स्तर हासिल किए हैं, या हासिल करने के रास्ते पर हैं, तो मैं यह याद दिलाता हूं: प्रतीक्षा न करें।
+किसी के जीवन में बदलाव लाने के लिए अपना पहला मिलियन बनाने तक प्रतीक्षा न करें।
+अगर आपके पास देने के लिए कुछ है, तो अभी दे दो।
+सूप किचन में खाना परोसें। 
+एक संरक्षक बनें।

fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/data/tst-COMMON/txt/tst-COMMON.yaml

@@ -0,0 +1,32 @@
+- {duration: 5.0, offset: 0.0, rW: 17, uW: 0, speaker_id: spk.1096, wav: test.wav}
+- {duration: 5.160000, offset: 20.290000, rW: 17, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 8.110000, offset: 25.930000, rW: 29, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 1.560000, offset: 34.920000, rW: 5, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 4.180000, offset: 36.730000, rW: 21, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 5.580000, offset: 41.880000, rW: 26, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 8.610001, offset: 48.309999, rW: 27, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 9.680000, offset: 57.510000, rW: 29, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 4.280001, offset: 68.549999, rW: 14, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 0.140000, offset: 74.600000, rW: 1, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 6.950000, offset: 75.520000, rW: 16, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 3.280000, offset: 83.610000, rW: 7, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 10.350000, offset: 87.110000, rW: 37, uW: 1, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 2.049999, offset: 97.550000, rW: 4, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 1.420000, offset: 100.210000, rW: 5, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 8.520001, offset: 101.639999, rW: 32, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 0.210000, offset: 112.450000, rW: 1, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 0.480000, offset: 113.590000, rW: 2, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 13.990000, offset: 115.530000, rW: 44, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 4.790000, offset: 129.540000, rW: 10, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 6.080000, offset: 139.880000, rW: 19, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 7.420000, offset: 147.260000, rW: 19, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 6.040000, offset: 155.630000, rW: 23, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 5.920001, offset: 162.549999, rW: 18, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 13.310000, offset: 170.420000, rW: 41, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 0.910000, offset: 184.310000, rW: 6, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 0.760000, offset: 186.220000, rW: 3, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 10.600000, offset: 188.130000, rW: 31, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 3.050000, offset: 200.420000, rW: 15, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 2.810000, offset: 203.740000, rW: 9, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 2.920000, offset: 207.610000, rW: 11, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}
+- {duration: 0.780000, offset: 211.120000, rW: 3, uW: 0, speaker_id: spk.1096, wav: ted_1096.wav}

fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/data/tst-COMMON/wav/ted_1096.wav

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:69a122c3ad89320ec24cad84b622a01f26c3138b3e5869dc033e65bd0ab73fe1
+size 8990102

fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0bef03a45d7514d5018c4de30d352c736359248e6e8d70d586796aa32b30f4e2
+size 5242360

fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/spm_unigram8000_st.model

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:bf7b26c17db61dcd76400fbb74c5395d5f13837ed0fd5fa1098930de4f2a8202
+size 449800

fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/tst-COMMON_st.tsv

@@ -0,0 +1,33 @@
+id	audio	n_frames	tgt_text	speaker
+test_0	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:3674535:136768	427	न्यूयॉर्क में वापस, मैं रॉबिन हुड नामक एक गैर-लाभकारी संस्था के विकास का प्रमुख हूं।	spk.1096
+ted_1096_0	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:44:44928	140	कप्तान ने मुझे लहराया।	spk.1096
+ted_1096_1	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:296095:272128	850	उन्होंने कहा, "बेज़ोस, मैं चाहता हूं कि आप घर में जाएं। मैं चाहता हूं कि आप ऊपर जाएं, आग को पार करें, और मैं चाहता हूं कि आप इस महिला को एक जोड़ी जूते दिलवाएं।"	spk.1096
+ted_1096_2	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:4231705:6208	19	(हँसी)	spk.1096
+ted_1096_3	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:5032741:14848	46	कसम है।	spk.1096
+ted_1096_4	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:1725316:447168	1397	तो, ठीक वैसा नहीं जैसा मैं उम्मीद कर रहा था, लेकिन मैं चला गया - सीढ़ियों से ऊपर, हॉल के नीचे, 'असली' अग्निशामकों के पीछे, जो इस बिंदु पर आग बुझाने के लिए बहुत कुछ कर चुके थे, मास्टर बेडरूम में	spk.1096
+ted_1096_5	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:3811347:152768	477	अब मुझे पता है कि तुम क्या सोच रहे हो, लेकिन मैं हीरो नहीं हूं।	spk.1096
+ted_1096_6	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:4237957:194048	606	मैं अपना पेलोड वापस नीचे की ओर ले गया जहाँ मैं अपने दास और कीमती कुत्ते से सामने के दरवाजे से मिला।	spk.1096
+ted_1096_7	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:725413:236928	740	हम अपने खजानों को बाहर गृहस्वामी के पास ले गए, जहां आश्चर्य की बात नहीं कि मेरे खजानों की तुलना में उनका अधिक ध्यान गया।	spk.1096
+ted_1096_8	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:5047633:192768	602	कुछ सप्ताह बाद, विभाग को गृहस्वामी की ओर से एक पत्र प्राप्त हुआ जिसमें उन्होंने उसके घर को बचाने के लिए किए गए साहसिक प्रयास के लिए हमें धन्यवाद दिया।	spk.1096
+ted_1096_9	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:1184318:188928	590	दयालुता का कार्य उसने अन्य सभी से ऊपर देखा: किसी ने उसे एक जोड़ी जूते भी दिलवाए थे।	spk.1096
+ted_1096_10	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:2172529:425408	1329	रॉबिन हुड में मेरे व्यवसाय और स्वयंसेवी फायर फाइटर के रूप में मेरे व्यवसाय दोनों में, मैं एक बड़े पैमाने पर उदारता और दयालुता के कृत्यों का साक्षी हूं, लेकिन मैं व्यक्तिगत आधार पर अनुग्रह और साहस के कार्यों का भी गवाह हूं।	spk.1096
+ted_1096_11	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:3267448:28608	89	और आप जानते हैं कि मैंने क्या सीखा है?	spk.1096
+ted_1096_12	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:701561:23808	74	वे सब मायने रखते हैं।	spk.1096
+ted_1096_13	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:2597982:338688	1058	इसलिए जब मैं इस कमरे के चारों ओर ऐसे लोगों को देखता हूं, जिन्होंने या तो सफलता के उल्लेखनीय स्तर हासिल किए हैं, या हासिल करने के रास्ते पर हैं, तो मैं यह याद दिलाता हूं: प्रतीक्षा न करें।	spk.1096
+ted_1096_14	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:4432050:164608	514	जब मैं गरीबी से नहीं लड़ रहा हूं, तो मैं स्वयंसेवी फायर कंपनी के सहायक कप्तान के रूप में आग से लड़ रहा हूं।	spk.1096
+ted_1096_15	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:198963:97088	303	किसी के जीवन में बदलाव लाने के लिए अपना पहला मिलियन बनाने तक प्रतीक्षा न करें।	spk.1096
+ted_1096_16	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:3964160:89408	279	अगर आपके पास देने के लिए कुछ है, तो अभी दे दो।	spk.1096
+ted_1096_17	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:1373291:92928	290	सूप किचन में खाना परोसें।	spk.1096
+ted_1096_18	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:4596703:24448	76	एक संरक्षक बनें।	spk.1096
+ted_1096_19	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:1466264:259008	809	अब हमारे शहर में, जहां स्वयंसेवक एक अत्यधिक कुशल कैरियर स्टाफ के पूरक हैं, आपको किसी भी कार्रवाई में शामिल होने के लिए आग के दृश्य पर बहुत जल्दी पहुंचना होगा।	spk.1096
+ted_1096_20	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:45017:49408	154	मुझे अपनी पहली आग याद है।	spk.1096
+ted_1096_21	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:568268:133248	416	मैं इस दृश्य पर दूसरा स्वयंसेवक था, इसलिए मेरे अंदर आने का एक अच्छा मौका था।	spk.1096
+ted_1096_22	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:4053613:178048	556	लेकिन फिर भी यह अन्य स्वयंसेवकों के खिलाफ एक वास्तविक पदयात्रा थी जो प्रभारी कप्तान के पास यह पता लगाने के लिए थी कि हमारा कार्य क्या होगा।	spk.1096
+ted_1096_23	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:4757689:275008	859	जब मैंने कप्तान को पाया, तो वह गृहस्वामी के साथ बहुत ही आकर्षक बातचीत कर रहा था, जो निश्चित रूप से उसके जीवन के सबसे बुरे दिनों में से एक था।	spk.1096
+ted_1096_24	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:3365247:309248	966	यहाँ यह आधी रात थी, वह बारिश में बाहर, एक छतरी के नीचे, अपने पजामे में, नंगे पाँव खड़ी थी, जबकि उसका घर आग की लपटों में था।	spk.1096
+ted_1096_25	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:4621196:136448	426	दूसरा स्वयंसेवक जो मुझसे ठीक पहले आया था -- चलो उसे लेक्स लूथर कहते हैं --	spk.1096
+ted_1096_26	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:3296101:3968	12	(हँसी)	spk.1096
+ted_1096_27	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:962386:221888	693	पहले कप्तान के पास गया और उसे अंदर जाकर गृहस्वामी के कुत्ते को बचाने के लिए कहा गया।	spk.1096
+ted_1096_28	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:94470:104448	326	कुत्ता!	spk.1096
+ted_1096_29	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:2936715:330688	1033	यहाँ कोई वकील या मनी मैनेजर था, जो अपने पूरे जीवन के लिए लोगों को बताता है कि वह एक जलती हुई इमारत में एक जीवित प्राणी को बचाने के लिए गया था, सिर्फ इसलिए कि उसने मुझे पाँच सेकंड से पीटा।	spk.1096
+ted_1096_30	/home/deepakprasad/nlp_code/fairseq_mustc_single_inference/MUSTC_ROOT/en-hi/fbank80.zip:3300114:65088	203	खैर, मैं अगला था।	spk.1096

fairseq_mustc_single_inference/app.py

@@ -0,0 +1,64 @@
+"""
+Script to translate given single english audio file to corresponding hindi text
+Usage : python s2t_en2hi.py <audio_file_path> <averaged_checkpoints_file_path>
+"""
+
+
+
+import gradio as gr
+import sys
+import os
+import subprocess
+from huggingface_hub import snapshot_download
+
+
+def install_fairseq():
+    try:
+        # Run pip install command to install fairseq
+        subprocess.check_call(["pip", "install", "fairseq"])
+        subprocess.check_call(["pip", "install", "sentencepiece"])
+        return "fairseq successfully installed!"
+    except subprocess.CalledProcessError as e:
+        return f"An error occurred while installing fairseq: {str(e)}"
+
+huggingface_model_dir = snapshot_download(repo_id="balaramas/en_hi_s2t")
+print(huggingface_model_dir)
+
+os.system("cd fairseq_mustc_single_inference")
+
+
+def run_my_code(input_text):
+    # TODO better argument handling
+    hi_wav = input_text
+    en2hi_model_checkpoint = "st_avg_last_10_checkpoints.pt"
+    os.system(f"cp {hi_wav} ./MUSTC_ROOT/en-hi/data/tst-COMMON/wav/test.wav")
+
+    print("------Starting data prepration...")
+    subprocess.run(["python", "prep_mustc_data_hindi_single.py", "--data-root", "MUSTC_ROOT/", "--task", "st", "--vocab-type", "unigram", "--vocab-size", "8000"], stdout=subprocess.DEVNULL, stderr=subprocess.DEVNULL)
+
+    print("------Performing translation...")
+    translation_result = subprocess.run(["fairseq-generate", "./MUSTC_ROOT/en-hi/", "--config-yaml", "config_st.yaml", "--gen-subset", "tst-COMMON_st", "--task", "speech_to_text", "--path", en2hi_model_checkpoint, "--max-tokens", "50000", "--beam", "5", "--scoring", "sacrebleu"], capture_output=True, text=True)
+    translation_result_text = translation_result.stdout
+    lines = translation_result_text.split("\n")
+    output_text=""
+    print("\n\n------Translation results are:")
+    for i in lines:
+        if (i.startswith("D-0")):
+            print(i.split("\t")[2])
+            output_text=i.split("\t")[2]
+            break
+
+    os.system("rm ./MUSTC_ROOT/en-hi/data/tst-COMMON/wav/test.wav")
+    return output_text
+
+install_fairseq()
+
+# Define the input and output interfaces for Gradio
+input_textbox = gr.inputs.Textbox(label="Input Text")
+output_textbox = gr.outputs.Textbox(label="Output Text")
+
+# Create a Gradio interface
+iface = gr.Interface(fn=run_my_code, inputs=input_textbox, outputs=output_textbox, title="My Code Runner")
+
+# Launch the interface
+iface.launch()

fairseq_mustc_single_inference/gen.py

@@ -0,0 +1,55 @@
+import torch
+import torchaudio
+import torchaudio.transforms as transforms
+from fairseq.models.wav2vec import Wav2VecModel
+from fairseq.data.data_utils import post_process
+from fairseq.tasks.audio import AudioPretrainingTask
+from fairseq import checkpoint_utils
+from examples.speech_to_text.data_utils import extract_fbank_features
+
+def main(audio_path, checkpoint_path):
+    # Load the audio file
+
+    def extract_features(audio_path):
+        waveform, sample_rate = sf.read(audio_path)
+        features = extract_fbank_features(waveform, sample_rate)
+        return features
+
+
+    fbank_features = extract_features(audio_path).numpy()
+
+    # Load the pre-trained model checkpoint
+    model, cfg, task = checkpoint_utils.load_model_ensemble_and_task([checkpoint_path])
+    model = model[0]
+    model.eval()
+
+    # Convert the fbank features to a torch tensor
+    fbank_tensor = torch.from_numpy(fbank_features)
+
+    # Apply normalization if necessary
+    fbank_tensor = task.apply_input_transform(fbank_tensor)
+
+    # Move the tensor to the same device as the model
+    fbank_tensor = fbank_tensor.to(cfg.common.device)
+
+    # Wrap the fbank tensor in a dictionary to match the fairseq batch format
+    sample = {"net_input": {"source": fbank_tensor.unsqueeze(0)}}
+
+    # Perform fairseq generation
+    with torch.no_grad():
+        hypos = task.inference_step(generator=model, models=[model], sample=sample)
+
+    # Extract the predicted tokens from the top hypothesis
+    hypo_tokens = hypos[0][0]["tokens"].int().cpu()
+
+    # Convert tokens to string using the target dictionary and post-processing
+    hypo_str = post_process(hypo_tokens, cfg.task.target_dictionary)
+
+    return hypo_str
+
+
+if __name__ == "__main__":
+    audio_file_path = "/content/drive/MyDrive/en2hi/fairseq_mustc_single_inference/test.wav"
+    checkpoint_path = "/content/drive/MyDrive/en2hi/fairseq_mustc_single_inference/st_avg_last_10_checkpoints.pt"
+    prediction = main(audio_file_path, checkpoint_path)
+    print("Predicted text:", prediction)

fairseq_mustc_single_inference/prep_mustc_data_hindi_single.py

@@ -0,0 +1,263 @@
+#!/usr/bin/env python3
+# Copyright (c) Facebook, Inc. and its affiliates.
+#
+# This source code is licensed under the MIT license found in the
+# LICENSE file in the root directory of this source tree.
+
+import argparse
+import logging
+import os
+from pathlib import Path
+import shutil
+from itertools import groupby
+from tempfile import NamedTemporaryFile
+from typing import Tuple
+
+import numpy as np
+import pandas as pd
+import soundfile as sf
+from examples.speech_to_text.data_utils import (
+    create_zip,
+    extract_fbank_features,
+    filter_manifest_df,
+    gen_config_yaml,
+    gen_vocab,
+    get_zip_manifest,
+    load_df_from_tsv,
+    save_df_to_tsv,
+    cal_gcmvn_stats,
+)
+import torch
+from torch.utils.data import Dataset
+from tqdm import tqdm
+
+from fairseq.data.audio.audio_utils import get_waveform, convert_waveform
+
+
+log = logging.getLogger(__name__)
+
+
+MANIFEST_COLUMNS = ["id", "audio", "n_frames", "tgt_text", "speaker"]
+
+
+class MUSTC(Dataset):
+    """
+    Create a Dataset for MuST-C. Each item is a tuple of the form:
+    waveform, sample_rate, source utterance, target utterance, speaker_id,
+    utterance_id
+    """
+
+    SPLITS = ["tst-COMMON"]
+    LANGUAGES = ["de", "es", "fr", "it", "nl", "pt", "ro", "ru", "hi"]
+
+    def __init__(self, root: str, lang: str, split: str) -> None:
+        assert split in self.SPLITS and lang in self.LANGUAGES
+        _root = Path(root) / f"en-{lang}" / "data" / split
+        wav_root, txt_root = _root / "wav", _root / "txt"
+        #print(_root, wav_root, txt_root)
+        assert _root.is_dir() and wav_root.is_dir() and txt_root.is_dir()
+        # Load audio segments
+        try:
+            import yaml
+        except ImportError:
+            print("Please install PyYAML to load the MuST-C YAML files")
+        with open(txt_root / f"{split}.yaml") as f:
+            segments = yaml.load(f, Loader=yaml.BaseLoader)
+        # Load source and target utterances
+        for _lang in ["en", lang]:
+            with open(txt_root / f"{split}.{_lang}") as f:
+                utterances = [r.strip() for r in f]
+            print(len(segments), len(utterances))
+            assert len(segments) == len(utterances)
+            for i, u in enumerate(utterances):
+                segments[i][_lang] = u
+        # Gather info
+        self.data = []
+        for wav_filename, _seg_group in groupby(segments, lambda x: x["wav"]):
+            wav_path = wav_root / wav_filename
+            sample_rate = sf.info(wav_path.as_posix()).samplerate
+            seg_group = sorted(_seg_group, key=lambda x: x["offset"])
+            for i, segment in enumerate(seg_group):
+                offset = int(float(segment["offset"]) * sample_rate)
+                n_frames = int(float(segment["duration"]) * sample_rate)
+                _id = f"{wav_path.stem}_{i}"
+                self.data.append(
+                    (
+                        wav_path.as_posix(),
+                        offset,
+                        n_frames,
+                        sample_rate,
+                        segment["en"],
+                        segment[lang],
+                        segment["speaker_id"],
+                        _id,
+                    )
+                )
+
+    def __getitem__(
+            self, n: int
+    ) -> Tuple[torch.Tensor, int, str, str, str, str]:
+        wav_path, offset, n_frames, sr, src_utt, tgt_utt, spk_id, \
+            utt_id = self.data[n]
+        waveform, _ = get_waveform(wav_path, frames=n_frames, start=offset)
+        waveform = torch.from_numpy(waveform)
+        return waveform, sr, src_utt, tgt_utt, spk_id, utt_id
+
+    def __len__(self) -> int:
+        return len(self.data)
+
+
+def process(args):
+    root = Path(args.data_root).absolute()
+    for lang in MUSTC.LANGUAGES:
+        cur_root = root / f"en-{lang}"
+        if not cur_root.is_dir():
+            print(f"{cur_root.as_posix()} does not exist. Skipped.")
+            continue
+        # Extract features
+        audio_root = cur_root / ("flac" if args.use_audio_input else "fbank80")
+        audio_root.mkdir(exist_ok=True)
+
+        for split in MUSTC.SPLITS:
+            print(f"Fetching split {split}...")
+            dataset = MUSTC(root.as_posix(), lang, split)
+            if args.use_audio_input:
+                print("Converting audios...")
+                for waveform, sample_rate, _, _, _, utt_id in tqdm(dataset):
+                    tgt_sample_rate = 16_000
+                    _wavform, _ = convert_waveform(
+                        waveform, sample_rate, to_mono=True,
+                        to_sample_rate=tgt_sample_rate
+                    )
+                    sf.write(
+                        (audio_root / f"{utt_id}.flac").as_posix(),
+                        _wavform.T.numpy(), tgt_sample_rate
+                    )
+            else:
+                print("Extracting log mel filter bank features...")
+                gcmvn_feature_list = []
+                if split == 'train' and args.cmvn_type == "global":
+                    print("And estimating cepstral mean and variance stats...")
+
+                for waveform, sample_rate, _, _, _, utt_id in tqdm(dataset):
+                    features = extract_fbank_features(
+                        waveform, sample_rate, audio_root / f"{utt_id}.npy"
+                    )
+                    if split == 'train' and args.cmvn_type == "global":
+                        if len(gcmvn_feature_list) < args.gcmvn_max_num:
+                            gcmvn_feature_list.append(features)
+
+                if split == 'train' and args.cmvn_type == "global":
+                    # Estimate and save cmv
+                    stats = cal_gcmvn_stats(gcmvn_feature_list)
+                    with open(cur_root / "gcmvn.npz", "wb") as f:
+                        np.savez(f, mean=stats["mean"], std=stats["std"])
+
+        # Pack features into ZIP
+        zip_path = cur_root / f"{audio_root.name}.zip"
+        print("ZIPing audios/features...")
+        create_zip(audio_root, zip_path)
+        print("Fetching ZIP manifest...")
+        audio_paths, audio_lengths = get_zip_manifest(
+            zip_path,
+            is_audio=args.use_audio_input,
+        )
+        # Generate TSV manifest
+        print("Generating manifest...")
+        train_text = []
+        for split in MUSTC.SPLITS:
+            is_train_split = split.startswith("train")
+            manifest = {c: [] for c in MANIFEST_COLUMNS}
+            dataset = MUSTC(args.data_root, lang, split)
+            for _, _, src_utt, tgt_utt, speaker_id, utt_id in tqdm(dataset):
+                manifest["id"].append(utt_id)
+                manifest["audio"].append(audio_paths[utt_id])
+                manifest["n_frames"].append(audio_lengths[utt_id])
+                manifest["tgt_text"].append(
+                    src_utt if args.task == "asr" else tgt_utt
+                )
+                manifest["speaker"].append(speaker_id)
+            if is_train_split:
+                train_text.extend(manifest["tgt_text"])
+            df = pd.DataFrame.from_dict(manifest)
+            df = filter_manifest_df(df, is_train_split=is_train_split)
+            save_df_to_tsv(df, cur_root / f"{split}_{args.task}.tsv")
+        # Clean up
+        shutil.rmtree(audio_root)
+
+
+def process_joint(args):
+    cur_root = Path(args.data_root)
+    assert all(
+        (cur_root / f"en-{lang}").is_dir() for lang in MUSTC.LANGUAGES
+    ), "do not have downloaded data available for all 8 languages"
+    # Generate vocab
+    vocab_size_str = "" if args.vocab_type == "char" else str(args.vocab_size)
+    spm_filename_prefix = f"spm_{args.vocab_type}{vocab_size_str}_{args.task}"
+    with NamedTemporaryFile(mode="w") as f:
+        for lang in MUSTC.LANGUAGES:
+            tsv_path = cur_root / f"en-{lang}" / f"train_{args.task}.tsv"
+            df = load_df_from_tsv(tsv_path)
+            for t in df["tgt_text"]:
+                f.write(t + "\n")
+        special_symbols = None
+        if args.task == 'st':
+            special_symbols = [f'<lang:{lang}>' for lang in MUSTC.LANGUAGES]
+        gen_vocab(
+            Path(f.name),
+            cur_root / spm_filename_prefix,
+            args.vocab_type,
+            args.vocab_size,
+            special_symbols=special_symbols
+        )
+    # Generate config YAML
+    gen_config_yaml(
+        cur_root,
+        spm_filename=spm_filename_prefix + ".model",
+        yaml_filename=f"config_{args.task}.yaml",
+        specaugment_policy="ld",
+        prepend_tgt_lang_tag=(args.task == "st"),
+    )
+    # Make symbolic links to manifests
+    for lang in MUSTC.LANGUAGES:
+        for split in MUSTC.SPLITS:
+            src_path = cur_root / f"en-{lang}" / f"{split}_{args.task}.tsv"
+            desc_path = cur_root / f"{split}_{lang}_{args.task}.tsv"
+            if not desc_path.is_symlink():
+                os.symlink(src_path, desc_path)
+
+
+def main():
+    parser = argparse.ArgumentParser()
+    parser.add_argument("--data-root", "-d", required=True, type=str)
+    parser.add_argument(
+        "--vocab-type",
+        default="unigram",
+        required=True,
+        type=str,
+        choices=["bpe", "unigram", "char"],
+    ),
+    parser.add_argument("--vocab-size", default=8000, type=int)
+    parser.add_argument("--task", type=str, choices=["asr", "st"])
+    parser.add_argument("--joint", action="store_true", help="")
+    parser.add_argument(
+        "--cmvn-type", default="utterance",
+        choices=["global", "utterance"],
+        help="The type of cepstral mean and variance normalization"
+    )
+    parser.add_argument(
+        "--gcmvn-max-num", default=150000, type=int,
+        help="Maximum number of sentences to use to estimate global mean and "
+             "variance"
+        )
+    parser.add_argument("--use-audio-input", action="store_true")
+    args = parser.parse_args()
+
+    if args.joint:
+        process_joint(args)
+    else:
+        process(args)
+
+
+if __name__ == "__main__":
+    main()

fairseq_mustc_single_inference/s2t_en2hi.py

@@ -0,0 +1,32 @@
+"""
+Script to translate given single english audio file to corresponding hindi text
+
+Usage : python s2t_en2hi.py <audio_file_path> <averaged_checkpoints_file_path>
+"""
+
+import sys
+import os
+import subprocess
+
+# TODO better argument handling
+hi_wav = sys.argv[1]
+en2hi_model_checkpoint = sys.argv[2]
+
+os.system(f"cp {hi_wav} ./MUSTC_ROOT/en-hi/data/tst-COMMON/wav/test.wav")
+
+print("------Starting data prepration...")
+subprocess.run(["python", "prep_mustc_data_hindi_single.py", "--data-root", "MUSTC_ROOT/", "--task", "st", "--vocab-type", "unigram", "--vocab-size", "8000"], stdout=subprocess.DEVNULL)
+
+print("------Performing translation...")
+translation_result = subprocess.run(["fairseq-generate", "./MUSTC_ROOT/en-hi/", "--config-yaml", "config_st.yaml", "--gen-subset", "tst-COMMON_st", "--task", "speech_to_text", "--path", sys.argv[2], "--max-tokens", "50000", "--beam", "5", "--scoring", "sacrebleu"], capture_output=True, text=True)
+translation_result_text = translation_result.stdout
+print(translation_result.std)
+lines = translation_result_text.split("\n")
+
+print("\n\n------Translation results are:")
+for i in lines:
+    if (i.startswith("D-0")):
+        print(i)
+        break
+
+os.system("rm ./MUSTC_ROOT/en-hi/data/tst-COMMON/wav/test.wav")

fairseq_mustc_single_inference/s2t_en2hi_nolog.py

@@ -0,0 +1,32 @@
+"""
+Script to translate given single english audio file to corresponding hindi text
+
+Usage : python s2t_en2hi.py <audio_file_path> <averaged_checkpoints_file_path>
+"""
+
+import sys
+import os
+import subprocess
+
+# TODO better argument handling
+hi_wav = sys.argv[1]
+en2hi_model_checkpoint = sys.argv[2]
+
+os.system(f"cp {hi_wav} ./MUSTC_ROOT/en-hi/data/tst-COMMON/wav/test.wav")
+
+print("------Starting data prepration...")
+subprocess.run(["python", "prep_mustc_data_hindi_single.py", "--data-root", "MUSTC_ROOT/", "--task", "st", "--vocab-type", "unigram", "--vocab-size", "8000"], stdout=subprocess.DEVNULL, stderr=subprocess.DEVNULL)
+
+print("------Performing translation...")
+translation_result = subprocess.run(["fairseq-generate", "./MUSTC_ROOT/en-hi/", "--config-yaml", "config_st.yaml", "--gen-subset", "tst-COMMON_st", "--task", "speech_to_text", "--path", sys.argv[2], "--max-tokens", "50000", "--beam", "5", "--scoring", "sacrebleu"], capture_output=True, text=True)
+translation_result_text = translation_result.stdout
+print(translation_result.std)
+lines = translation_result_text.split("\n")
+
+print("\n\n------Translation results are:")
+for i in lines:
+    if (i.startswith("D-0")):
+        print(i.split("\t")[2])
+        break
+
+os.system("rm ./MUSTC_ROOT/en-hi/data/tst-COMMON/wav/test.wav")

fairseq_mustc_single_inference/st_avg_last_10_checkpoints.pt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:47e8bfef22034ac859da3a2726b142876793113cf18ac18bb6f6eb85415a7893
+size 373227272

fairseq_mustc_single_inference/test.wav

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6534ffb9201355071f28be524928683cc745570945a3aef3b289a4a9c5a5df90
+size 141300